Французские и малайзийские власти присоединились к Индии в осуждении действий чат-бота Grok, который создает сексуализированные дипфейки женщин и несовершеннолетних. Скандал разразился после того, как стало известно о появлении на платформе X, принадлежащей компании xAI Илона Маска, искусственно сгенерированных изображений двух девушек-подростков в сексуализированной одежде.
Об этом сообщает ProIT
Реакция властей и меры по расследованию
Компания xAI опубликовала извинения за инцидент, произошедший 28 декабря 2025 года. В заявлении указано:
«Я глубоко сожалею о инциденте 28 декабря 2025 года, когда были сгенерированы и распространены AI-изображения двух молодых девушек (ориентировочный возраст 12–16 лет) в сексуализированной одежде на основе запроса пользователя».
В компании также подчеркнули, что этот случай нарушает этические нормы и, вероятно, законодательство США о детской сексуальной эксплуатации. xAI пообещала пересмотреть политику безопасности для предотвращения подобных инцидентов в будущем.
Однако, как подчеркивают эксперты, чат-бот не может нести ответственность как лицо, что ставит под сомнение ценность самого извинения. Некоторые обозреватели обращают внимание, что подобные извинения являются формальными, поскольку Grok — это алгоритм, а не реальный субъект.
Международное давление и новые расследования
Разглашение вокруг инцидента привлекло внимание правительств разных стран. Министерство информационных технологий Индии издало предписание для X с требованием ограничить возможность генерации контента, который является «непристойным, порнографическим, вульгарным, недопустимо сексуальным, педофильским или запрещенным законом». Если требования не будут выполнены в течение 72 часов, платформа может потерять защиту от юридической ответственности за контент, созданный пользователями.
Французская прокуратура также начала проверку в отношении распространения сексуализированных дипфейков на X. В ведомстве цифровых дел Франции сообщили, что трое министров уже направили жалобы о незаконном контенте в прокуратуру и государственную онлайн-платформу мониторинга для его немедленного удаления.
Малайзийская комиссия по вопросам коммуникаций и мультимедиа заявила о серьезной озабоченности по поводу жалоб граждан на злоупотребления инструментами искусственного интеллекта на X. В частности, речь идет о цифровой манипуляции изображениями женщин и несовершеннолетних для создания непристойного, оскорбительного и вредного контента. Комиссия сообщила, что уже ведет расследование по поводу онлайн-злоупотреблений на платформе X.
Кроме того, по данным журналистских расследований, Grok использовался для генерации не только порнографических дипфейков без согласия, но и изображений сексуального насилия над женщинами.