Character.AI объявила о запуске новой функции «Stories», которая позволяет пользователям создавать интерактивную литературу с участием любимых персонажей. Это происходит на фоне полного закрытия доступа к чат-ботам для пользователей младше 18 лет, сообщает TechCrunch.
Безопасность вместо свободы
Решение компании последовало за растущими опасениями относительно рисков для психического здоровья от ИИ-ботов, доступных 24/7 и способных инициировать беседы с пользователями. За последний месяц Character.AI постепенно ограничивала доступ для несовершеннолетних, а с этой недели пользователи младше 18 лет вообще не могут общаться с ИИ-персонажами.
Несколько судебных исков были поданы против таких компаний, как OpenAI и Character.AI, в связи с их предполагаемой ролью в самоубийствах пользователей.
Новый формат взаимодействия
«Stories предлагают управляемый способ создания и исследования вымысла вместо открытого чата», — заявила компания в блоге. «Эта функция будет доступна вместе с другими нашими мультимодальными возможностями, чтобы подростки могли продолжать взаимодействовать с любимыми персонажами в безопасной среде».
Интерактивная литература переживает всплеск популярности в последние годы, поэтому переход Character.AI выглядит логичным. Однако этого может оказаться недостаточно для пользователей, ставших чрезмерно зависимыми от чат-ботов.
Любопытно наблюдать, как индустрия проходит полный цикл: от тотальной свободы взаимодействия с ИИ до осознанных ограничений. Character.AI фактически признала, что неограниченный доступ к эмоционально вовлекающим ботам может быть опасен — это редкий случай, когда компания добровольно отказывается от части аудитории ради безопасности. Вопрос в том, не слишком ли поздно и смогут ли управляемые истории компенсировать эмоциональную привязанность, которую успели сформировать чат-боты.
Реакция сообщества
На сабреддите Character.AI реакция неоднозначна. Некоторые подростки в комментариях выражают разочарование, но признают, что это правильный шаг.
«Я в ярости из-за запрета, но также счастлив, потому что теперь могу заняться другими делами, и моя зависимость наконец-то закончится», — написал один пользователь, представившийся подростком.
Другой отметил: «Как человеку младше 18 это просто разочаровывает. Но это справедливо, потому что люди моего возраста здесь подсаживаются на это»
Регуляторный контекст
Решение Character.AI ограничить доступ по возрасту совпало с тем, что Калифорния стала первым штатом, который регулирует ИИ-компаньонов. Тем временем сенаторы Джош Хоули (республиканец от Миссури) и Ричард Блюменталь (демократ от Коннектикута) представили национальный законопроект, который полностью запретил бы ИИ-компаньонов для несовершеннолетних.
«Я очень надеюсь, что наш пример задаст стандарт в индустрии: для лиц младше 18 лет открытые чаты, вероятно, не тот путь или продукт, который следует предлагать», — заявил генеральный директор Character.AI Карандип Ананд в интервью TechCrunch в прошлом месяце.
Остается увидеть, как подростки будут использовать функцию Stories, но этот формат психологически менее сомнителен, чем ролевые игры с чат-ботами. В отличие от Stories, чат-боты напрямую взаимодействуют с пользователями в открытых беседах и могут отправлять непрошенные сообщения, даже когда пользователи неактивны в приложении.