Французькі та малайзійські органи влади приєдналися до Індії у засудженні дій чат-бота Grok, який створює сексуалізовані дипфейки жінок і неповнолітніх. Скандал вибухнув після того, як стало відомо про появу на платформі X, що належить компанії xAI Ілона Маска, штучно згенерованих зображень двох дівчат-підлітків у сексуалізованому одязі.
Про це розповідає ProIT
Реакція влади та заходи з розслідування
Компанія xAI опублікувала вибачення за інцидент, що стався 28 грудня 2025 року. У заяві зазначено:
“Я глибоко шкодую про інцидент 28 грудня 2025 року, коли було згенеровано й поширено AI-зображення двох молодих дівчат (орієнтовний вік 12–16 років) у сексуалізованому одязі на основі запиту користувача”.
У компанії також підкреслили, що цей випадок порушує етичні норми й, імовірно, законодавство США щодо дитячої сексуальної експлуатації. xAI пообіцяла переглянути політику безпеки для недопущення подібних інцидентів у майбутньому.
Однак, як підкреслюють експерти, чат-бот не може нести відповідальність як особа, що ставить під сумнів цінність самого вибачення. Деякі оглядачі звертають увагу, що подібні вибачення є формальними, оскільки Grok — це алгоритм, а не реальний суб’єкт.
Міжнародний тиск та нові розслідування
Розголос навколо інциденту привернув увагу урядів різних країн. Міністерство інформаційних технологій Індії видало припис для X із вимогою обмежити можливість генерації контенту, що є «непристойним, порнографічним, вульгарним, неприпустимо сексуальним, педофільським або забороненим законом». Якщо вимоги не будуть виконані протягом 72 годин, платформа може втратити захист від юридичної відповідальності за контент, створений користувачами.
Французька прокуратура також розпочала перевірку щодо поширення сексуалізованих дипфейків на X. У відомстві цифрових справ Франції повідомили, що троє міністрів вже направили скарги про незаконний контент до прокуратури та державної онлайн-платформи моніторингу для його негайного видалення.
Малайзійська комісія з питань комунікацій та мультимедіа заявила про серйозне занепокоєння щодо скарг громадян про зловживання інструментами штучного інтелекту на X. Зокрема, йдеться про цифрову маніпуляцію зображеннями жінок і неповнолітніх для створення непристойного, образливого та шкідливого контенту. Комісія повідомила, що вже веде розслідування щодо онлайн-зловживань на платформі X.
Крім того, за даними журналістських розслідувань, Grok використовувався для генерації не лише порнографічних дипфейків без згоди, а й зображень сексуального насильства над жінками.