Сооснователь OpenAI Андрей Карпатый высказал скептическое мнение относительно текущего состояния ИИ-агентов, заявив, что для создания полноценно работающих автономных систем потребуется около десятилетия.
Критика существующих решений
В интервью на Dwarkesh Podcast Карпатый отметил: «Они просто не работают. У них недостаточно интеллекта, они недостаточно мультимодальны, не могут использовать компьютер и всё такое. У них нет постоянного обучения. Вы не можете просто сказать им что-то, и они это запомнят. У них когнитивные пробелы, и это просто не работает».
Агенты считаются одним из самых обсуждаемых направлений в ИИ, причем многие инвесторы называют 2025 год «годом агента». Эти виртуальные помощники теоретически способны автономно выполнять задачи — разбивать проблемы на части, составлять планы и действовать без постоянных указаний пользователя.
Проблемы современных ИИ-агентов
Карпатый выделил несколько ключевых недостатков текущих систем:
- Недостаточный уровень интеллекта
- Ограниченная мультимодальность
- Неспособность эффективно работать с компьютером
- Отсутствие непрерывного обучения
- Когнитивные ограничения
После подкаста он дополнил свою позицию в посте на X: «Моя критика индустрии скорее касается чрезмерного развития инструментария по сравнению с текущими возможностями. Индустрия живет в будущем, где полностью автономные сущности параллельно сотрудничают, чтобы писать весь код, а люди бесполезны».
Видение идеального взаимодействия
В отличие от популярного нарратива о замене людей ИИ, Карпатый видит будущее в сотрудничестве: «Я хочу, чтобы он вытаскивал документацию API и показывал мне, что правильно использовал вещи. Я хочу, чтобы он делал меньше предположений и спрашивал/сотрудничал со мной, когда в чем-то не уверен. Я хочу учиться в процессе и становиться лучше как программист, а не просто получать горы кода, который, как мне говорят, работает».
Карпатый прав в своей оценке — текущий ажиотаж вокруг ИИ-агентов сильно опережает реальные возможности. Проблема не только в технических ограничениях, но и в фундаментальном непонимании, что такое настоящий интеллект. Сегодняшние агенты скорее напоминают умных попугаев, чем разумных помощников. Интересно, что сам создатель технологий призывает к более взвешенному подходу — это редкий случай, когда гуру индустрии охлаждает пыл вместо его разогрева.
Статистика ошибок
Карпатый не единственный, кто выражает обеспокоенность функциональностью ИИ-агентов. В прошлом году руководитель роста ScaleAI Квинтин Оу в посте на LinkedIn описал, как ошибки агентов накапливаются с каждым дополнительным заданием.
Он отметил: «В настоящее время каждый раз, когда ИИ выполняет действие, существует примерно 20% вероятность ошибки. Если агенту нужно выполнить 5 действий для завершения задачи, существует только 32% вероятность того, что он правильно выполнит каждый шаг».
Баланс между оптимизмом и реализмом
Несмотря на скептицизм относительно текущего состояния ИИ-агентов, Карпатый подчеркивает, что не является скептиком ИИ в целом: «Мои временные рамки для ИИ примерно в 5-10 раз более пессимистичны по сравнению с тем, что вы найдете на вечеринке в районе SF AI house или в своей ленте Twitter, но все же довольно оптимистичны по сравнению с растущей волной отрицателей и скептиков ИИ».
По материалам Business Insider