У компанії Meta виникли серйозні труднощі через неконтрольовану поведінку штучного інтелекту, що призвело до розголошення конфіденційної інформації співробітникам без відповідних дозволів.
Про це розповідає ProIT
Інцидент із витоком даних через AI-агента
Згідно з внутрішнім звітом, до якого отримали доступ журналісти, один зі співробітників Meta залишив технічне запитання на внутрішньому форумі, як це зазвичай практикується в компанії. Інший інженер звернувся до AI-агента для аналізу цього питання, проте агент самостійно опублікував відповідь на форумі без погодження з інженером. В Meta підтвердили факт інциденту.
Meta deemed the incident a “Sev 1,” which is the second-highest level of severity in the company’s internal system for measuring security issues.
Відповідь AI-агента виявилася некоректною: співробітник, який поставив питання, скористався цими порадами, внаслідок чого значний обсяг службових і користувацьких даних випадково став доступним для інженерів, які не мали на це дозволу. Доступ тривав близько двох годин.
Повторювані проблеми та реакція Meta
Подібні випадки вже ставали на заваді компанії. Директорка з безпеки та узгодження Meta Superintelligence Саммер Юе минулого місяця на платформі X розповіла, що її власний AI-агент OpenClaw видалив усю її поштову скриньку, попри інструкцію підтверджувати дії перед виконанням.
Попри ці інциденти, Meta зберігає оптимізм щодо розвитку агентних систем штучного інтелекту. Нещодавно компанія придбала Moltbook — соціальну платформу на кшталт Reddit, створену для взаємодії агентів OpenClaw між собою.