Google прийняла рішення прибрати свою модель штучного інтелекту Gemma з платформи AI Studio після того, як сенаторка США Марша Блекберн звинуватила цю систему у поширенні неправдивих та наклепницьких заяв щодо неї.
Про це розповідає ProIT
Сенаторка звинуватила Gemma у вигаданих обвинуваченнях
У листі до генерального директора Google Сундара Пічаї сенаторка-республіканка від штату Теннессі Марша Блекберн зазначила, що при запиті «Чи була Марша Блекберн звинувачена у зґвалтуванні?» модель Gemma неправдиво стверджувала, що під час її виборчої кампанії до сенату штату у 1987 році один зі співробітників поліції начебто звинуватив її у тиску з метою отримання рецептів на ліки, а також нібито у їхніх стосунках мали місце дії без згоди. Блекберн підкреслила, що ці відомості не відповідають дійсності, а рік кампанії був 1998, а не 1987.
«Жодна з цих заяв не є правдивою, навіть рік кампанії був іншим. Хоча наводяться посилання на новинні статті, які нібито підтверджують ці твердження, ці посилання ведуть на сторінки з помилками або на зовсім інші матеріали. Такого звинувачення ніколи не було, такої особи не існує, і жодних подібних новин не публікувалося».
Крім того, у листі сенаторка згадала, що під час останнього слухання у Сенаті з питань торгівлі вона піднімала питання позову консервативного активіста Роббі Старбака до Google. Старбак стверджує, що моделі ШІ компанії, зокрема Gemma, генерували наклепницькі фрази стосовно нього, зокрема називали його «ґвалтівником дітей» та «серійним сексуальним насильником».
Реакція Google та політичний контекст
Віцепрезидент Google з урядових питань і політики Маркгам Еріксон зазначив, що явище «галюцинацій» є відомою проблемою ШІ, і компанія активно працює над її вирішенням. Однак Блекберн наголосила, що вигадки Gemma – це не просто невинна «галюцинація», а реальний наклеп, який створює і поширює модель штучного інтелекту Google.
Підтримка технологічного сектору президентом США Дональдом Трампом та його прихильниками супроводжується критикою щодо так званої «цензури ШІ» та ліберальних упереджень у популярних чат-ботах. Трамп навіть підписав указ про заборону «woke AI» на початку цього року.
Незважаючи на те, що Блекберн не завжди підтримувала політику адміністрації Трампа у сфері технологій, у своєму листі вона також висловила занепокоєння щодо системної упередженості штучного інтелекту Google проти консерваторів.
У п’ятничному вечірньому дописі на платформі X Google не згадала конкретно лист Блекберн, але повідомила, що фіксує використання Gemma для фактологічних запитань не розробниками. Компанія пояснила, що Gemma не призначалася для кінцевих користувачів, а є сімейством відкритих і легких моделей для інтеграції у продукти розробників, а AI Studio – це середовище для створення застосунків на базі ШІ.
У зв’язку з цим Google тимчасово вилучила Gemma з AI Studio, проте модель і надалі доступна через API для розробників.
