Появление агентного веба — интернета, где автономные ИИ-агенты могут самостоятельно выполнять сложные многошаговые задачи и транзакции, — обещает фундаментальный сдвиг в том, как клиенты и бизнесы взаимодействуют. Но эта автоматизация создает новые векторы атак и мошенничества.
Новые вызовы безопасности
В агентном вебе предприятия сталкиваются с ключевыми вопросами безопасности:
- Как идентифицировать ИИ-агента и пользователя за ним, чтобы убедиться, что агент не был захвачен?
- Как определить легитимность намерений агента и убедиться, что он не вышел из-под контроля?
- Как смягчать риски, когда вредоносный ИИ способен решать задачи, предназначенные для его остановки?
- Как обеспечить безопасную агентную коммерцию с новыми поверхностями взаимодействия?
Google Cloud предлагает переход от чистой защиты к активному включению, основанному на фреймворке агентного доверия.
Проблема намерения vs атаки
Представьте запуск высокоспросованного продукта: 10 000 клиентов поручают своим персональным ИИ-агентам купить по одному экземпляру в момент старта продаж. Это ценный и желательный сценарий. А теперь представьте одного злоумышленника, развернувшего 10 000 агентов для покупки всего инвентаря с целью перепродажи. Для традиционной системы безопасности оба сценария выглядят одинаково как «атака».
Мы создаем умные системы, которые затем должны защищаться от собственных умных созданий. Google предлагает классический подход: идентификация, поведенческий анализ и экономически невыгодные для ИИ вызовы. Но главный вопрос — не станет ли эта гонка вооружений бесконечным циклом, где каждое улучшение защиты тут же преодолевается более совершенным ИИ?
Если система не может отличить одно от другого, вы либо блокируете своих лучших клиентов, либо проваливаете весь запуск. Речь идет уже не просто о детекции автоматизации, а о дифференциации намерений.
Идентификация агентов и пользователей
Как и человеческие пользователи, ИИ-агенты должны иметь собственные доверенные идентичности и нести ответственность за все выполняемые действия. В агентном мире есть агенты, действующие от имени пользователя и использующие его существующую сессию и контекст. Также есть агенты, работающие удаленно как облачный сервис, например Gemini.
Google активно идентифицирует и маркирует агентные активности, интегрируется с различными протоколами идентификации агентов (включая SPIFFE и Web Bot Auth) и создает гибкие контролы для проверки и блокировки агентов на основе идентичностей и поведения.
Анализ поведения агентов
Для эффективной борьбы с мошенничеством в агентном мире необходимо выйти за рамки идентификации и непрерывно анализировать действия и намерения агента в реальном времени. Доверенная идентификация недостаточна для остановки потенциальных атак от скомпрометированных или вышедших из-под контроля агентов.
Google создает специализированные модели риска, которые сегментируют трафик на «агентный» и «неагентный», комбинируют идентичность агента с его действиями в реальном времени и позволяют системам выполнять комплексный анализ рисков и доверия как для хороших, так и для плохих активностей.
Новые методы защиты
Когда обнаруживается высокий риск, ответ должен быть эффективным против ИИ — а не простых ботов. Google инвестирует в новый класс ИИ-устойчивых вызовов, специально разработанных для того, чтобы их решение ИИ было экономически невыгодным в масштабе.
Основной пример — новый вызов на основе мобильных устройств, требующий от пользователя сканировать QR-код своим физическим мобильным устройством для предоставления высоконадежного подтверждения присутствия уникального человека. Этот подход обеспечивает более сильную, ИИ-устойчивую безопасность и эффективно ломает бизнес-модель для крупномасштабных атакующих.
Интеграция с платежными системами
В новом агентном вебе доверенные агенты будут действовать от имени покупателей, находя лучшие предложения и совершая покупки. Google недавно анонсировал Agent Payments Protocol (AP2), открытый протокол, разработанный с ведущими платежными и технологическими компаниями для безопасного включения этого сценария использования.
Сегодня клиенты уже могут использовать API оценки риска транзакций reCAPTCHA для обнаружения и предотвращения масштабных кардинговых атак и увеличенных чарджбэков. Кроме того, Google активно работает над углублением интеграции моделей обнаружения транзакционного мошенничества reCAPTCHA непосредственно в AI-сервисы Google Cloud.
Агентный веб переопределит цифровое взаимодействие. Лидеры по безопасности и рискам могут использовать этот переломный момент, чтобы помочь своим организациям оставаться на вершине агентного будущего.
По материалам Google Cloud.