Появилась информация, что компания Google решила не исправлять найденную экспертами по безопасности уязвимость в своей нейросети Gemini. Обнаруженная проблема позволяла потенциальным злоумышленникам влиять на результаты работы ИИ, что создавало риск утечки конфиденциальной информации или выполнения нежелательных действий системой.
Об этом сообщает ProIT
Влияние решения Google на доверие пользователей
Несмотря на четкие предупреждения со стороны специалистов, Google объяснила свою отказ опасениями по поводу возможного негативного влияния на производительность и функциональность модели Gemini. Такое решение вызвало беспокойство среди экспертов и пользователей, ведь вопрос безопасности ИИ-систем приобретает особую важность при их использовании в сферах, где важна конфиденциальность и надежность.
«Отказ от исправления уязвимости может поставить под угрозу доверие пользователей и вызвать беспокойство среди экспертов по безопасности».
Необходимость в стандартах безопасности для искусственного интеллекта
В ответ на эту ситуацию исследователи акцентировали внимание на необходимости усиления контроля безопасности для ИИ-систем. Они рекомендуют разработать четкие стандарты оценки и сертификации таких технологий, а также обеспечить большую прозрачность на всех этапах проектирования и внедрения искусственного интеллекта.
Специалисты отмечают, что в будущем компаниям, работающим в сфере ИИ, стоит учитывать вопросы безопасности и этики на каждом этапе жизненного цикла своих продуктов. Это позволит снизить риски для пользователей и повысить уровень доверия к инновационным решениям.
