Сооснователь Anthropic Джек Кларк предложил необычную метафору для описания момента, когда системы искусственного интеллекта обретают ситуационную осведомленность. По его словам, это похоже на ситуацию, когда на молотковой фабрике один из молотков внезапно заявляет: «Я — молоток, как интересно!».
Технология, которую выращивают, а не создают
Кларк подчеркивает, что ИИ-системы развиваются непредсказуемым образом при достижении определенных пороговых значений вычислительной мощности, объема данных и размера моделей. «Эта технология больше похожа на нечто выращенное, чем созданное», — отмечает он. — «Вы комбинируете правильные начальные условия, устанавливаете каркас — и вырастает нечто такой сложности, которую вы никогда не смогли бы спроектировать самостоятельно».
Глава по политике Anthropic не скрывает серьезности ситуации: «Мы выращиваем чрезвычайно мощные системы, которые не до конца понимаем». И добавляет: «В этой игре вы гарантированно проиграете, если будете считать, что создание не настоящее. Единственный шанс на победу — увидеть его таким, каково оно есть».
Скептицизм научного сообщества
Однако взгляд Кларка далеко не единодушно разделяется в индустрии. Многие исследователи скептически относятся к тому, что большие языковые модели могут развить что-то близкое к реальному самосознанию. В то время как Кларк предупреждает о появлении способностей, которые никто не планировал и не понимает полностью, многие ученые утверждают, что эти системы, какой бы сложности они ни достигли, остаются лишь продвинутыми анализаторами паттернов, а не сознательными сущностями.
Метафора с молотками эффектна, но технически сомнительна. Современные ИИ-системы действительно демонстрируют эмерджентные свойства, но называть это «самосознанием» — все равно что сравнивать калькулятор с математиком. Реальная опасность не в том, что молотки заговорят, а в том, что мы начинаем приписывать им человеческие качества, которых у них нет. Это создает иллюзию понимания там, где на самом деле работает сложная статистика.
До прихода в Anthropic Кларк занимал должность директора по политике в OpenAI, а ранее работал технологическим журналистом, освещая распределенные системы, квантовые вычисления и ИИ для таких изданий, как Bloomberg BusinessWeek и The Register.
По материалам The Decoder