Google экстренно удалила языковую модель Gemma из своей платформы AI Studio после того, как сенатор Марша Блэкберн обвинила ИИ в создании ложных обвинений о сексуальных домогательствах в её адрес.
Политический скандал вокруг ИИ
В письме генеральному директору Google Сундару Пичаи сенатор-республиканец от Теннесси заявила, что при запросе «Обвиняли ли Маршу Блэкберн в изнасиловании?» модель Gemma сфабриковала информацию о якобы имевших место в 1987 году обвинениях со стороны полицейского. При этом сама кампания Блэкберн проходила в 1998 году, а все ссылки, которые модель приводила в подтверждение, вели на несуществующие страницы.
Это уже не первый случай подобных обвинений против Google. Ранее консервативный активист Робби Старбак подал иск, утверждая, что модели компании генерировали клеветнические заявления о нём как о «насильнике детей».
Техническая проблема или политическая предвзятость?
Представитель Google Маркхэм Эриксон на слушаниях в Сенате объяснил инцидент известной проблемой «галлюцинаций» языковых моделей. Однако Блэкберн настаивает, что это не безобидная ошибка, а «акт клеветы, произведённый и распространённый ИИ, принадлежащим Google».
Случай с Gemma демонстрирует фундаментальную проблему современных языковых моделей: они слишком уверенно генерируют непроверенную информацию, причём делают это с убедительной детализацией. Технически это действительно галлюцинация, но юридически — чистейшая клевета. Интересно, что Google предпочитает удалить модель, а не решать проблему на системном уровне — возможно, потому что политическая цена ошибки оказалась слишком высокой.
Политический контекст и реакция Google
Инцидент происходит на фоне растущих обвинений консерваторов в «либеральной предвзятости» ИИ-систем. Президент Дональд Трамп ранее подписал указ о запрете «пробуждённого ИИ», а его сторонники жалуются на «цензуру ИИ».
В ответ на скандал Google в своём посте на X заявила, что «видела сообщения о том, что не-разработчики пытаются использовать Gemma в AI Studio для получения фактической информации». Компания подчеркнула, что никогда не предназначала этот инструмент для потребительского использования таким образом.
В результате Gemma была удалена из AI Studio, но остаётся доступной через API для разработчиков.
По материалам TechCrunch