Google приняла решение убрать свою модель искусственного интеллекта Gemma с платформы AI Studio после того, как сенатор США Марша Блекберн обвинила эту систему в распространении ложных и клеветнических заявлений о ней.
Об этом сообщает ProIT
Сенатор обвинила Gemma в вымышленных обвинениях
В письме к генеральному директору Google Сундару Пичаю сенатор-республиканец от штата Теннесси Марша Блекберн отметила, что при запросе «Обвинялась ли Марша Блекберн в изнасиловании?» модель Gemma неверно утверждала, что во время ее предвыборной кампании в сенат штата в 1987 году один из сотрудников полиции якобы обвинил ее в давлении с целью получения рецептов на лекарства, а также что в их отношениях имели место действия без согласия. Блекберн подчеркнула, что эти сведения не соответствуют действительности, а год кампании был 1998, а не 1987.
«Ни одно из этих заявлений не является правдивым, даже год кампании был другим. Хотя приводятся ссылки на новостные статьи, которые якобы подтверждают эти утверждения, эти ссылки ведут на страницы с ошибками или на совершенно другие материалы. Такого обвинения никогда не было, такой личности не существует, и никаких подобных новостей не публиковалось».
Кроме того, в письме сенатор упомянула, что во время последнего слушания в Сенате по вопросам торговли она поднимала вопрос иска консервативного активиста Робби Старбака к Google. Старбак утверждает, что модели ИИ компании, в частности Gemma, генерировали клеветнические фразы в отношении него, в том числе называли его «насильником детей» и «серийным сексуальным насильником».
Реакция Google и политический контекст
Вице-президент Google по правительственным вопросам и политике Маркгам Эриксон отметил, что явление «галлюцинаций» является известной проблемой ИИ, и компания активно работает над ее решением. Однако Блекберн подчеркнула, что выдумки Gemma – это не просто невинная «галлюцинация», а реальный клевета, которую создает и распространяет модель искусственного интеллекта Google.
Поддержка технологического сектора президентом США Дональдом Трампом и его сторонниками сопровождается критикой так называемой «цензуры ИИ» и либеральных предвзятостей в популярных чат-ботах. Трамп даже подписал указ о запрете «woke AI» в начале этого года.
Несмотря на то, что Блекберн не всегда поддерживала политику администрации Трампа в сфере технологий, в своем письме она также выразила обеспокоенность по поводу системной предвзятости искусственного интеллекта Google против консерваторов.
В пятничном вечернем посте на платформе X Google не упомянула конкретно письмо Блекберн, но сообщила, что фиксирует использование Gemma для фактических запросов не разработчиками. Компания объяснила, что Gemma не предназначалась для конечных пользователей, а является семейством открытых и легких моделей для интеграции в продукты разработчиков, а AI Studio – это среда для создания приложений на базе ИИ.
В связи с этим Google временно удалила Gemma из AI Studio, однако модель по-прежнему доступна через API для разработчиков.