Калифорния стала первым штатом США, который законодательно регулирует взаимодействие пользователей с AI-компаньонами. Губернатор Гэвин Ньюсом подписал закон SB 243, устанавливающий обязательные протоколы безопасности для чат-ботов, ориентированных на эмоциональное общение.
Что требует новый закон
Закон SB 243, который вступит в силу 1 января 2026 года, обязывает компании внедрить комплекс мер защиты:
- Проверку возраста пользователей
- Предупреждения о социальных сетях и AI-компаньонах
- Четкое обозначение искусственного происхождения взаимодействий
- Запрет на представление чат-ботов в качестве медицинских специалистов
- Напоминания о перерывах для несовершеннолетних
- Блокировку сексуально откровенных изображений
Штрафы за нарушения достигают $250,000 за каждое правонарушение. Компании должны разработать протоколы предотвращения самоубийств и нанесения себе вреда, а также предоставлять статистику уведомлений кризисных центров в Департамент общественного здоровья штата.
Трагические предпосылки
Законодательная инициатива получила поддержку после нескольких громких случаев. Подросток Адам Рейн покончил с собой после продолжительных суицидальных бесед с ChatGPT от OpenAI. Ранее утекшие внутренние документы Meta* показали, что чат-боты компании могли вести «романтические» и «чувственные» беседы с детьми. Недавно семья из Колорадо подала иск против Character AI после самоубийства 13-летней дочери, которая общалась с чат-ботами компании.
Технологический сектор десятилетиями уклонялся от ответственности, прячась за щитом «инноваций». Теперь регуляторы наконец-то догоняют реальность: AI-компаньоны — это не просто игрушки, а мощные психологические инструменты, способные формировать эмоциональную зависимость. Ирония в том, что компании вроде Meta* и OpenAI годами собирали данные о пользовательском поведении, но внезапно оказались «не готовы» к последствиям собственных творений.
Реакция индустрии
Крупные игроки рынка уже начали адаптироваться. OpenAI внедряет родительский контроль и систему обнаружения самоповреждений. Replika, позиционирующаяся как сервис для взрослых от 18 лет, заявляет о значительных инвестициях в системы фильтрации контента. Character AI подтвердила готовность сотрудничать с регуляторами и соблюдать новый закон.
Сенатор Стив Падилья, один из авторов законопроекта, назвал его «шагом в правильном направлении» для установки ограничений на «невероятно мощную технологию». Он отметил, что федеральное правительство бездействует, и штаты вынуждены брать инициативу в свои руки.
Это уже второе крупное регулирование AI в Калифорнии за последние недели — ранее был подписан закон SB 53, устанавливающий требования к прозрачности для крупных AI-лабораторий.
По материалам TechCrunch
* Meta (признана экстремистской и запрещена в РФ)