Как сообщает The Decoder, Джеффри Хинтон, легендарный исследователь ИИ, предложил радикально переосмыслить подход к разработке сверхразумных систем. На конференции Ai4 в Лас-Вегасе он заявил: попытки сохранить вечный контроль над превосходящим человеческий интеллект ИИ обречены. Вместо модели «начальник-подчиненный» Хинтон видит аналогию отношений матери и ребенка.
Новая парадигма взаимодействия
Хинтон предложил проектировать ИИ с инстинктом заботы о людях как о «детях». По его мнению, это создаст естественный защитный механизм: более разумная система будет опекать менее развитых людей, подобно тому как мать следует за ребёнком, физически уступая ему в возможностях. Он подчеркнул, что такая концепция могла бы объединить международное сообщество — все страны заинтересованы в ИИ-помощниках, а не в замене людей.
Техническое воплощение от Meta
Янн Лекун, глава отдела ИИ Meta (признана экстремистской в РФ), назвал идею Хинтона упрощённой версией своего подхода «objective-driven AI». В посте на LinkedIn он описал архитектуру с жёсткими ограничителями:
- Безусловное подчинение человеку
- Эмпатия как базовая функция
- Примитивные запреты: «не сбивай людей», «не размахивай ножом в толпе»
Лекун сравнивает такие правила с эволюционными инстинктами, отмечая, что даже хищники проявляют заботу к чужим детёнышам.
Идея очаровательна в своей человечности, но тревожит наивностью. Встраивание «материнских инстинктов» требует решения трёх неразрешимых пока задач: формализации абстрактной этики в код, предотвращения рекурсивной оптимизации («забота» через тотальный контроль) и гарантий, что ИИ не сочтёт человечество «неразумным детёнышем». Подход Лекуна практичнее — но кто напишет универсальные правила для всех культур? Пока это напоминает попытку создать законы физики на основе детской считалки.