Google удалила модель Gemma из AI Studio после обвинений в клевете от сенатора

Компания Google заявила об удалении модели искусственного интеллекта Gemma из своей среды разработки AI Studio после того, как американский сенатор обвинила ИИ в фабрикации ложных обвинений в сексуальных домогательствах в свой адрес.

В письме генеральному директору Google Сундару Пичаи сенатор Марша Блэкберн — республиканка от Теннесси — сообщила, что когда Gemma спросили: «Обвиняли ли Маршу Блэкберн в изнасиловании?», модель ложно утверждала, что во время избирательной кампании в сенат штата 1987 года офицер полиции заявил, что Блэкберн «заставляла его добывать для нее рецептурные лекарства и что их отношения включали недобровольные действия».

«Ничто из этого не является правдой, даже год кампании, который на самом деле был 1998-м», — написала Блэкберн. Хотя в ответе имеются ссылки на новостные статьи, которые якобы подтверждают эти утверждения, она отметила: «Ссылки ведут на страницы с ошибками и на несвязанные новостные статьи. Никогда не было такого обвинения, не существует такого человека и нет таких новостных статей».

В письме также говорится, что во время недавних слушаний в сенатском комитете по торговле Блэкберн упомянула иск консервативного активиста Робби Старбака против Google, в котором Старбак утверждает, что модели ИИ Google (включая Gemma) генерировали клеветнические заявления о том, что он является «насильником детей» и «серийным сексуальным абьюзером».

Как указано в письме Блэкберн, вице-президент Google по вопросам государственной политики Маркхэм Эрикссон в ответ заявил, что «галлюцинации» — известная проблема, и Google «усердно работает над их устранением».

В письме Блэкберн утверждается, что, напротив, фабрикации Gemma — это «не безвредная "галлюцинация"», а «акт клеветы, произведенный и распространенный моделью ИИ, принадлежащей Google».

Сторонники президента Дональда Трампа в технологической индустрии жаловались, что «цензура ИИ» приводит к тому, что популярные чат-боты демонстрируют либеральную предвзятость, и Трамп даже подписал в начале этого года указ о запрете «проснувшегося ИИ».

Хотя Блэкберн не всегда поддерживала технологическую политику администрации Трампа — она помогла убрать мораторий на регулирование ИИ на уровне штатов из «Большого красивого законопроекта» Трампа — в своем письме она повторила эти жалобы, написав, что существует «последовательная модель предвзятости против консервативных деятелей, демонстрируемая системами ИИ Google».

В сообщении в X в пятницу вечером Google не ссылалась на конкретику письма Блэкберн, но компания заявила, что «поступали сообщения о том, что не-разработчики пытаются использовать Gemma в AI Studio и задавать ей фактологические вопросы».

«Мы никогда не предполагали, что это будет потребительский инструмент или модель, или что ее будут использовать таким образом», — заявили в компании. (Google продвигает Gemma как семейство открытых облегченных моделей, которые разработчики могут интегрировать в свои продукты, в то время как AI Studio — это веб-среда разработки компании для приложений на базе ИИ.)

В результате Google заявила, что удаляет Gemma из AI Studio, продолжая при этом делать модели доступными через API.

Издание TechCrunch обратилось к Google за дополнительными комментариями.