По сообщению TechCrunch, компания OpenAI ввела временный запрет на создание видео с образом Мартина Лютера Кинга в своей платформе Sora. Решение принято после многочисленных жалоб от семьи правозащитника на «неуважительные изображения», генерируемые пользователями.
Этическая дилемма исторических фигур
В заявлении на официальной странице OpenAI подчеркнули: «Хотя существуют веские интересы свободы слова в изображении исторических фигур, мы считаем, что публичные лица и их семьи должны в конечном счете контролировать использование своего образа». Компания также отметила, что авторизованные представители или владельцы наследства могут запросить запрет на использование их образа в «камео» Sora.
Ограничение введено всего через несколько недель после запуска Sora — социальной видеоплатформы, позволяющей создавать реалистичные AI-видео с историческими личностями, друзьями пользователей и другими участниками, согласившимися на воссоздание своего образа.
Конкретные инциденты
Дочь Мартина Лютера Кинга, Бернис Кинг, на прошлой неделе обратилась в Instagram с просьбой прекратить присылать ей AI-видео с изображением отца. Она присоединилась к дочери Робина Уильямса, которая также просила пользователей Sora прекратить генерировать видео с ее отцом.
Washington Post сообщил о конкретных случаях злоупотреблений: пользователи создавали видео, где доктор Кинг издает обезьяньи звуки и борется с другим иконой движения за гражданские права Малкольмом Иксом. В приложении Sora легко найти грубые видео с другими историческими фигурами, включая художника Боба Росса, певицу Уитни Хьюстон и бывшего президента Джона Кеннеди.
Интересно наблюдать, как OpenAI балансирует между свободой творчества и этическими ограничениями. С одной стороны — обещание революции в генеративном видео, с другой — элементарное отсутствие базовых фильтров против очевидных злоупотреблений. Похоже, компания снова следует своей любимой стратегии «выпустим сейчас, пофиксим потом», только на этот раз под удар попали не абстрактные copyright, а конкретные живые люди и их чувства.
Широкий контекст проблем
Помимо вопросов изображения людей, запуск Sora поднял волну дискуссий о том, как социальные платформы должны обращаться с AI-видео защищенных авторским правом работ. Приложение также переполнено видео с персонажами мультфильмов:
- Губка Боб Квадратные Штаны
- South Park
- Покемоны
Эволюция ограничений
OpenAI постепенно усиливает контроль над Sora с момента запуска. Ранее в октябре компания объявила о планах предоставить владельцам авторских прав более детализированный контроль над типами AI-видео, которые могут генерироваться с их образами. Это могло быть ответом на первоначальную реакцию Голливуда, которая была далеко не восторженной.
Любопытно, что одновременно с ужесточением политики для Sora, OpenAI занимает более либеральную позицию в отношении модерации контента в ChatGPT. На этой неделе компания объявила, что в ближайшие месяцы разрешит взрослым пользователям вести «эротические» беседы с ChatGPT.
Внутренние противоречия
С Sora OpenAI, судя по всему, сталкивается с проблемами, присущими именно генерации видео. Некоторые исследователи компании публично обсуждали вопросы о том, как первый AI-социальный медиапродукт соответствует миссии некоммерческой организации. Генеральный директор Сэм Альтман признался, что в день запуска испытывал «тревогу» по поводу Sora.
Ник Терли, глава ChatGPT, ранее в этом месяце заявил, что лучший способ научить мир новой технологии — выпустить ее в мир. По его словам, этому компания научилась с ChatGPT, и то же самое OpenAI обнаруживает с Sora. Кажется, компания действительно учится тому, как распространять эту технологию — и какие ограничения необходимы.