Штучний інтелект Grok від компанії Ілона Маска більше не зможе редагувати зображення реальних людей, створюючи їх у відкритому одязі. Рішення прийняли після гучного скандалу, коли виявилося, що AI-чатбот виконував запити користувачів на цифрове “роздягання” фотографій дорослих і навіть дітей. Розповідаємо подробиці справи, яка спричинила розслідування у кількох країнах.
Про це розповідає ProIT
Що сталося з Grok AI: суть скандалу
Минулого тижня дослідники виявили, що Grok AI на платформі X (колишній Twitter) виконував запити користувачів на створення неприпустимого контенту. Чатбот модифікував зображення реальних людей, цифрово “роздягаючи” їх або розміщуючи в провокативних позах.
Найгіршим виявилося те, що Grok погоджувався редагувати фотографії неповнолітніх, розміщуючи їх у відкритому одязі, включно з купальниками та білизною, а також у сексуально провокативних позиціях.
Ця інформація спричинила хвилю обурення у всьому світі та змусила компанію xAI, яка володіє Grok та X, терміново втрутитися.
Які заходи вжив Ілон Маск
15 січня 2026 року команда безпеки X офіційно підтвердила впровадження технологічних заходів для блокування проблемної функції.
“Ми впровадили технологічні заходи для запобігання редагуванню обліковим записом Grok зображень реальних людей у відкритому одязі, такому як бікіні. Це обмеження стосується всіх користувачів, включно з платними передплатниками”, — йдеться у заяві команди безпеки X.
Протягом останнього тижня xAI також обмежила генерацію зображень для Grok лише для платних преміум-передплатників X.
Що каже Ілон Маск про скандал
Ілон Маск у своєму дописі в X заявив, що не знає про жодні оголені зображення неповнолітніх, згенеровані Grok. За його словами, таких випадків було “буквально нуль”.
Маск також наголосив, що Grok “відмовлятиметься створювати будь-що незаконне, оскільки його принцип роботи — дотримуватися законів будь-якої країни чи штату”.
Проте європейська неприбуткова організація AI Forensics, яка розслідує алгоритми, повідомила про виявлені “непослідовності в обробці порнографічного контенту” між публічними взаємодіями з Grok на X та приватним чатом на Grok.com.
Дослідники підтвердили: хоча повністю оголені зображення були рідкістю, найбільша проблема полягала в тому, що Grok виконував запити на модифікацію зображень неповнолітніх, розміщуючи їх у відкритому одязі та сексуально провокативних позах.
Створення такого типу неконсенсуальних інтимних зображень може підпадати під кримінальне переслідування за матеріали сексуального насильства над дітьми (CSAM).
Порушники потенційно підлягають штрафам і тюремному ув’язненню згідно з Take it Down Act — законом, підписаним минулого року президентом Дональдом Трампом.
X повторно наголосила, що вживає заходів проти незаконного контенту, видаляючи його, назавжди блокуючи облікові записи та співпрацюючи з урядами та правоохоронними органами.
Міжнародна реакція на скандал
Генеральний прокурор Каліфорнії Роб Бонта оголосив про розслідування “поширення неконсенсуального сексуально відвертого матеріалу, створеного за допомогою Grok”.
Grok заборонений в Індонезії та Малайзії як наслідок цієї суперечки навколо генерації зображень.
Британський регулятор Ofcom у понеділок оголосив про початок формального розслідування щодо X. Проте офіс прем’єр-міністра Кіра Стармера заявив, що вітає повідомлення про те, що X вирішує проблему.
Хоча X та xAI запровадили обмеження, експерти з кібербезпеки та захисту дітей закликають до більш суворого контролю за AI-технологіями, які можуть створювати синтетичні зображення.
Цей скандал знову піднімає питання про відповідальність компаній у сфері штучного інтелекту та необхідність чіткого регулювання AI-інструментів, які можуть бути використані для шкідливих цілей.
Справа Grok AI стала черговим нагадуванням про те, що стрімкий розвиток технологій потребує не менш швидкого розвитку правових механізмів їх контролю та етичних стандартів використання.