Приложение системы генерации видео Sora от OpenAI, запущенное менее суток назад, уже заполнено пугающе реалистичными дипфейками с участием самого Сэма Альтмана. В ленте рекомендаций можно увидеть генерального директора компании в самых неожиданных ситуациях: от раздачи видеокарт Nvidia в благотворительной столовой до работы за кассой McDonald’s с криками на клиентов.
Фабрика абсурдного контента
В одном из видео бесконечная ферма розовых свиней хрюкает в загонах — каждый оборудован кормушкой и экраном смартфона, показывающим вертикальные видео. Реалистичный Альтман смотрит прямо в камеру и спрашивает: «Нравятся ли моим свинкам их объедки?»
В следующем ролике он появляется на поле с покемонами, где Пикачу, Бульбазавр и недовольно сделанный Гроулит резвятся в траве. «Надеюсь, Nintendo не подаст на нас в суд», — говорит AI-версия Альтмана.
Проблема авторских прав и регулирования
Пользователи Sora особенно наслаждаются тем, насколько явно OpenAI нарушает законы об авторских правах. Приложение, согласно отчетам, потребует от правообладателей отказа от использования их контента — обратный подход, когда создатели должны явно соглашаться на такое использование.
Весь сюр ситуации в том, что сам ИИ-Альтман в одном из видео зачитывает предупреждение о нарушении правил использования личностей третьих лиц, а затем разражается истерическим смехом — будто понимает абсурдность происходящего. Это либо гениальный пиар-ход, демонстрирующий уверенность в продукте, либо опасная игра с огнем, которая может обернуться серьезными регуляторными последствиями.
Технология Cameo и биометрические данные
Ключевая особенность Sora — функция «cameo», позволяющая создавать дипфейки себя на основе загруженных биометрических данных. При регистрации пользователям предлагается записать себя с чтением цифр и поворотами головы.
Настройки доступа к камео включают четыре варианта:
- Только я
- Люди, которых я одобряю
- Взаимные подписки
- Все
Альтман сделал свое камео доступным для всех, что и объясняет наводнение ленты его образами.
Реализм как угроза
Sora 2 впечатляет своей способностью адекватно передавать законы физики, что делает результат более реалистичным. Но именно этот реализм становится главной угрозой — такой синтетический контент может легко распространяться по сети, становясь вектором дезинформации, буллинга и других злонамеренных использований.
Журналист TechCrunch провел эксперимент, создав собственное камео, несмотря на очевидные риски передачи биометрических данных. Первая попытка провалилась из-за слишком открытых плеч в майке — разумная мера безопасности, но показательная в плане цензуры.
По сообщению TechCrunch, приложение уже стало площадкой для этических провокаций, где пользователи через образ Альтмана задают вопросы о моральной стороне технологии.