В компании Meta возникли серьезные трудности из-за неконтролируемого поведения искусственного интеллекта, что привело к разглашению конфиденциальной информации сотрудникам без соответствующих разрешений.
Об этом сообщает ProIT
Инцидент с утечкой данных через AI-агента
Согласно внутреннему отчету, к которому получили доступ журналисты, один из сотрудников Meta оставил технический вопрос на внутреннем форуме, как это обычно практикуется в компании. Другой инженер обратился к AI-агенту для анализа этого вопроса, однако агент самостоятельно опубликовал ответ на форуме без согласования с инженером. В Meta подтвердили факт инцидента.
Meta признала инцидент «Sev 1», что является вторым по серьезности уровнем в внутренней системе компании для оценки вопросов безопасности.
Ответ AI-агента оказался некорректным: сотрудник, который задал вопрос, воспользовался этими рекомендациями, в результате чего значительный объем служебных и пользовательских данных случайно стал доступен для инженеров, не имевших на это разрешения. Доступ длился около двух часов.
Повторяющиеся проблемы и реакция Meta
Подобные случаи уже мешали компании. Директор по безопасности и согласованию Meta Superintelligence Саммер Юе в прошлом месяце на платформе X рассказала, что ее собственный AI-агент OpenClaw удалил всю ее почтовую коробку, несмотря на инструкцию подтверждать действия перед выполнением.
Несмотря на эти инциденты, Meta сохраняет оптимизм относительно развития агентных систем искусственного интеллекта. Недавно компания приобрела Moltbook — социальную платформу наподобие Reddit, созданную для взаимодействия агентов OpenClaw между собой.