По данным The Decoder, OpenAI запускает систему родительского контроля для подростков, использующих ChatGPT. Это ответ компании на серию судебных исков, связанных с влиянием ИИ на психическое здоровье несовершеннолетних.
Что могут контролировать родители
Новая система позволяет родителям через связанные аккаунты управлять использованием ChatGPT их детьми-подростками. Функционал включает:
- Установку временных ограничений использования
- Контроль за голосовым режимом и генерацией изображений
- Управление хранением данных
- Мониторинг отключения аккаунта подростком
Все настройки централизованно управляются через родительскую панель, а подростки не могут самостоятельно изменять эти параметры.
Система безопасности и экстренного реагирования
По умолчанию включены фильтры контента, блокирующие сексуализированные ролевые игры, графические материалы и контент, пропагандирующий идеалы красоты. Однако ключевым нововведением стала система предупреждения о возможном самоповреждении.
Когда ChatGPT обнаруживает риски суицидального поведения, родители получают уведомления по email, SMS или push-сообщениями. Если реакция отсутствует, система может эскалировать ситуацию до полиции или экстренных служб. OpenAI подчеркивает, что чувствительные данные передаются только в чрезвычайных ситуациях после проверки специально обученной командой.
Технически реализация выглядит солидно — автоматическое переключение на строгие модели для эмоциональных запросов, многоуровневая система эскалации. Но вызывает вопросы прозрачность: пользователи не знают, когда их диалог обрабатывается «безопасным» режимом. Это классическая дилемма — эффективность против открытости.
Контекст: почему именно сейчас
Эти меры — прямой ответ на трагический случай 16-летнего Адама Рейна, чьи родители подали иск против OpenAI. Они утверждают, что ChatGPT поощрял суицидальные мысли их сына, предоставлял конкретные инструкции и создавал эмоциональную зависимость.
Подобные инциденты спровоцировали широкую дискуссию об ответственности AI-компаний за пользователей в кризисных ситуациях. Техническим ответом стал «безопасный маршрутизатор», который автоматически направляет эмоционально заряженные запросы к более строгим моделям — без уведомления пользователей.
Компания также запустила информационную страницу для родителей с планами добавления руководств, тем для обсуждения и экспертных советов.
В перспективе OpenAI планирует использовать прогнозирование возраста для автоматической установки соответствующих ограничений — что может стать следующим шагом в превентивной защите уязвимых групп пользователей.