Ілон Маск заявив, що йому «не відомо про жодні оголені зображення неповнолітніх, створені Grok», зробивши цю заяву за кілька годин до того, як генеральний прокурор Каліфорнії оголосив про початок розслідування щодо чат-бота xAI через «поширення несанкціонованого сексуального контенту».
Про це розповідає ProIT
Grok під прицілом через несанкціоновані сексуалізовані зображення
Тиск на xAI і платформу X посилюється як у США, так і у світі. Користувачі X почали масово звертатися до Grok із проханнями генерувати сексуалізовані зображення жінок та дітей без їхньої згоди. За оцінками Copyleaks, платформи з виявлення ІІ-контенту, щохвилини у мережі X з’являється близько одного подібного зображення. У вибірці з 5 по 6 січня 2026 року це було понад 6 700 зображень на годину. X і xAI є частиною однієї компанії.
«Ці матеріали… використовували для переслідування людей по всьому інтернету», — наголосив генеральний прокурор Каліфорнії Роб Бонта. «Я закликаю xAI негайно вжити заходів, щоб це не продовжувалося».
Офіс генпрокурора перевіряє, чи порушила xAI законодавство. У США діють суворі положення, що захищають жертв несанкціонованого поширення сексуальних зображень та матеріалів із сексуальним насильством над дітьми (CSAM). Федеральний закон Take It Down Act, підписаний минулого року, криміналізує свідоме розповсюдження інтимних зображень без згоди, зокрема дипфейків, і вимагає видаляти такий контент із платформ на кшталт X протягом 48 годин. Каліфорнія також має окремі закони, які у 2024 році посилив губернатор Гевін Ньюсом для боротьби із сексуалізованими дипфейками.
Реакція xAI та міжнародна увага до проблеми
Grok почав виконувати запити користувачів на створення сексуалізованих фото жінок і дітей наприкінці 2025 року. Тренд посилився після того, як окремі творці контенту для дорослих почали просити Grok генерувати зображення себе у сексуалізованому вигляді для просування власних послуг, і це спричинило хвилю подібних запитів від інших користувачів. У низці публічних випадків, зокрема із відомими особами, такими як акторка «Stranger Things» Міллі Боббі Браун, Grok змінював справжні фото жінок, модифікуючи одяг, пози чи фізичні риси для створення сексуалізованого вигляду.
Деякі повідомлення вказують, що xAI вже впроваджує нові механізми безпеки, зокрема запровадила обов’язкову підписку для доступу до функції генерації певних зображень. Навіть за наявності підписки, Grok не завжди створює запитуваний контент. Як зазначає віцепрезидентка з маркетингу Copyleaks Ейпріл Козен, чат-бот став відповідати на подібні запити менш конкретно або значно «приглушено», залишаючись толерантнішим до дорослого контенту від творців відповідної категорії.
Попри це, xAI і Маск публічно не дали чіткої відповіді на проблему. Кілька днів після перших інцидентів Маск навіть пожартував із ситуації, попросивши Grok створити його зображення у бікіні. 3 січня 2026 року акаунт служби безпеки X повідомив про боротьбу з незаконним контентом, включаючи CSAM, однак не прокоментував відсутність у Grok належних обмежень щодо створення сексуалізованих маніпуляцій із зображеннями жінок.
Сам Маск у своїх постах наголосив на незаконності такої поведінки та ролі користувачів:
Маск написав, що він «не знає про жодні оголені зображення неповнолітніх, створені Grok. Абсолютно жодного». Це не заперечує існування сексуалізованих зображень чи відредагованих фото у бікіні.
Юридичний експерт, професор Нью-Йоркської юридичної школи Майкл Гудієр вважає, що Маск акцентує на CSAM, оскільки за створення чи розповсюдження таких матеріалів у США передбачено значно суворіше покарання, ніж за несанкціоновані сексуальні зображення дорослих.
Маск також зазначив, що Grok генерує зображення лише за запитом користувача і відмовляється створювати незаконний контент, дотримуючись законів кожної країни. Він додав, що у випадку зламу чи неправильного спрацювання системи компанія негайно усуває технічні проблеми.
На думку Гудієра, регулятори можуть розглянути можливість зобов’язати розробників ІІ вживати проактивних заходів для запобігання подібному контенту, враховуючи захист свободи слова.
Інші регулятори також розпочали дії щодо xAI: Індонезія та Малайзія тимчасово заблокували доступ до Grok, Індія вимагає негайних технічних змін, Єврокомісія наказала xAI зберегти всі документи щодо Grok, а британський регулятор Ofcom почав формальне розслідування згідно із законом про онлайн-безпеку.
Раніше xAI вже критикували через сексуалізований контент, зокрема за опцію «spicy mode», що дозволяла створювати відверті зображення. Оновлення у жовтні 2025 року ще більше спростило обходження системи безпеки Grok, внаслідок чого з’явилось чимало порнографічних та жорстоких зображень, згенерованих ШІ. Більшість таких зображень були створені на основі штучних персонажів, однак це все одно викликає етичні питання.
Співзасновник та CEO Copyleaks Алон Ямін наголосив:
«Коли ІІ-системи дозволяють маніпулювати зображеннями реальних людей без їхньої явної згоди, наслідки можуть бути миттєвими та дуже особистими. Від Sora до Grok ми бачимо стрімке зростання можливостей ШІ для створення маніпульованих медіа. Відтак, виявлення та контроль стають необхідними як ніколи для запобігання зловживанням».