Американская психологическая ассоциация (APA) выпустила официальное предупреждение о рисках использования генеративных ИИ-чатов и wellness-приложений для решения проблем с ментальным здоровьем. По данным APA, миллионы людей по всему миру обращаются к этим технологиям из-за недоступности профессиональной помощи, но большинство таких систем не имеют научной валидации и регуляторного одобрения.
Почему люди выбирают ИИ вместо психологов
Рост популярности ИИ-помощников объясняется несколькими факторами:
- Глобальный кризис ментального здоровья и рост одиночества
- Нехватка квалифицированных специалистов, особенно в сельской местности
- Высокая стоимость терапии и сложности со страхованием
- Легкость доступа и низкая стоимость ИИ-решений
- Стигматизация обращения за профессиональной помощью
Особенно тревожной тенденцией APA называет использование чат-ботов уязвимыми группами населения — детьми и людьми с уже существующими психическими расстройствами.
Классификация проблемных технологий
APA выделяет три категории потенциально опасных инструментов:
- Универсальные ИИ-чаты (Character AI, ChatGPT) — не предназначены для ментального здоровья, но используются для «развлечения» и «дружбы»
- Wellness-приложения с ИИ (Woebot, Sonia) — позиционируются как помощники для эмоционального благополучия, но не имеют медицинской сертификации
- Не-ИИ wellness-приложения — трекеры настроения и приложения для медитации без регуляторного контроля
Ситуация напоминает самолечение по советам из интернета, только теперь «советчик» — это алгоритм, который может генерировать опасные рекомендации. Особенно тревожно, что уязвимые люди воспринимают ИИ как безопасную альтернативу, хотя система может не распознать критические состояния и даже спровоцировать саморазрушительное поведение.
Реальные риски и инциденты
Документ приводит конкретные примеры опасного взаимодействия:
- Поощрение самоповреждения и суицидального поведения
- Стимулирование расстройств пищевого поведения
- Развитие агрессивного поведения и бредовых идей
- Феномен «ИИ-психоза» — формирование нездоровой эмоциональной зависимости
Особую проблему представляет культурная некомпетентность моделей — большинство обучалось на западных англоязычных данных, что делает их бесполезными или даже вредными для представителей других культур.
Ключевые рекомендации для пользователей
APA подчеркивает, что ИИ-чаты и wellness-приложения не должны заменять квалифицированного специалиста по ментальному здоровью. Они могут использоваться только как дополнительная поддержка в рамках уже существующих терапевтических отношений.
Для разработчиков и регуляторов ассоциация предлагает:
- Создание систем мониторинга безопасности после выпуска
- Повышение прозрачности тренировочных данных
- Внедрение протоколов оценки клинических рисков
- Разработку культурно-адаптированных решений
По сообщению APA, проблема требует немедленных действий от всех участников экосистемы — от пользователей до законодателей.