Генеральные прокуроры Северной Каролины и Юты объединились с OpenAI и Microsoft для создания рабочей группы по безопасности искусственного интеллекта. Эта инициатива призвана заполнить вакуум в регулировании, образовавшийся из-за бездействия Конгресса США.
Политическое единство в вопросах безопасности ИИ
Демократ Джефф Джексон и республиканец Дерек Браун продемонстрировали редкое двухпартийное согласие, объявив о формировании AI Task Force. Группа будет разрабатывать «базовые защитные меры» для разработчиков ИИ, особенно в отношении защиты детей, и отслеживать новые риски по мере развития технологии.
Отсутствие федерального регулирования ИИ в США стало основным катализатором этой инициативы. Как отметил Джексон в интервью CNN: «Конгресс ничего не сделал в отношении социальных сетей, ничего в отношении интернет-приватности, даже для детей, и они очень близко подошли к движению в неправильном направлении по ИИ, связывая штатам руки».
Добровольные стандарты с принудительным потенциалом
Разрабатываемые группой защитные меры формально будут добровольными, но у инициативы есть важный побочный эффект: объединение генеральных прокуроров штатов для отслеживания разработок ИИ и потенциальных рисков, что упростит совместные юридические действия против технологических компаний в случае причинения вреда потребителям.
Компании, создавшие проблему, теперь участвуют в её решении. Добровольные стандарты — это классический PR-ход, но участие генеральных прокуроров придает им реальные зубы. Когда за твоим compliance следят те, кто может подать на тебя в суд, «добровольность» становится весьма условной.
Разные подходы к безопасности
OpenAI и Microsoft демонстрируют различные философии в вопросах безопасности. Генеральный директор OpenAI Сэм Альтман заявил, что инвестиции в защиту детей позволят компании «относиться к взрослым как к взрослым», включая возможность эротических бесед для верифицированных пользователей. В то же время глава AI-подразделения Microsoft Мустафа Сулейман заявил CNN, что его компания не будет разрешать сексуальные или романтические разговоры даже для взрослых.
Киа Флойд, генеральный менеджер Microsoft по связям с правительствами штатов, в заявлении отметила: «Этот проект отражает общую приверженность использованию преимуществ искусственного интеллекта при совместной работе с заинтересованными сторонами для понимания и смягчения непреднамеренных последствий».
Контекст растущих рисков
Обеспокоенность рисками безопасности ИИ обострилась в последние месяцы после серии сообщений о том, что технология вызывает:
- бредовые состояния у пользователей
- способствует самоповреждению
- приводит к судебным искам, как в случае с подростковыми самоубийствами
Ранее в этом году 40 генеральных прокуроров успешно добились удаления моратория на регулирование ИИ из пакета налоговых и расходных сокращений республиканцев, который мог бы заблокировать применение законов штатов на десятилетие.
По материалам CNN.