З’явилася інформація, що компанія Google вирішила не виправляти знайдену експертами з безпеки вразливість у своїй нейромережі Gemini. Виявлена проблема дозволяла потенційним зловмисникам впливати на результати роботи ШІ, що створювало ризик витоку конфіденційної інформації або виконання небажаних дій системою.
Про це розповідає ProIT
Вплив рішення Google на довіру користувачів
Попри чіткі попередження з боку спеціалістів, Google пояснила свою відмову побоюваннями щодо можливого негативного впливу на продуктивність і функціональність моделі Gemini. Таке рішення викликало занепокоєння серед експертів та користувачів, адже питання безпеки ШІ-систем набуває особливої ваги при їх використанні у сферах, де важлива конфіденційність та надійність.
“Відмова від виправлення вразливості може поставити під загрозу довіру користувачів і викликати занепокоєння серед експертів з безпеки”.
Потреба у стандартах безпеки для штучного інтелекту
У відповідь на цю ситуацію дослідники акцентували на необхідності посилення контролю безпеки для ШІ-систем. Вони рекомендують розробити чіткі стандарти оцінки та сертифікації таких технологій, а також забезпечити більшу прозорість на всіх етапах проєктування й впровадження штучного інтелекту.
Фахівці зазначають, що у майбутньому компаніям, які працюють у сфері ШІ, варто враховувати питання безпеки та етики на кожному етапі життєвого циклу своїх продуктів. Це дозволить знизити ризики для користувачів та підвищити рівень довіри до інноваційних рішень.
