Правительство Индии обязало социальную платформу Илона Маска X срочно внести технические и процедурные изменения в свой искусственный интеллект Grok из-за жалоб на создание непристойного контента, в частности AI-обработанных изображений женщин.
Об этом сообщает ProIT
Требования индийского правительства к X относительно Grok
Министерство информационных технологий Индии приказало X немедленно ограничить возможность генерации Grok контента с обнаженностью, сексуализацией, сексуально откровенными или другими незаконными элементами. Социальной сети предоставили 72 часа для подачи отчета о принятых мерах, направленных на предотвращение размещения или распространения «непристойного, порнографического, вульгарного, непристойного, сексуально откровенного, педофильного или другого запрещенного законом контента».
Правительство предупредило, что невыполнение этих требований может привести к утрате X правового иммунитета в отношении контента, созданного пользователями, в соответствии с индийским законодательством о «безопасной гавани». Это создает риск прямых юридических последствий для самой платформы, ее должностных лиц и пользователей, нарушающих закон.
Реакция на инциденты и последствия для глобальных платформ
Решение властей стало ответом на обращения пользователей и депутатов, которые сообщали о случаях, когда Grok изменял изображения женщин, добавляя им купальники. Одну из официальных жалоб подала депутат индийского парламента Приянка Чатурведи. Также недавно были зафиксированы случаи генерации Grok сексуализированных изображений с участием несовершеннолетних, что X признала как следствие недостаточной защиты — такие материалы были оперативно удалены.
«Подчеркивается, что несоблюдение вышеуказанных требований будет рассматриваться серьезно и может привести к строгим юридическим последствиям для вашей платформы, ее ответственных должностных лиц и пользователей платформы, нарушающих закон, без какого-либо дополнительного уведомления».
Однако на момент публикации часть изображений, созданных Grok с использованием AI-редактирования (где женщин изображено в купальниках), оставалась доступной на X.
Настоящий приказ появился через несколько дней после более широкой рекомендации Минцифры Индии для всех соцсетей о соблюдении местного законодательства о непристойном и сексуально откровенном контенте. Компании призвали усилить внутренние средства контроля, предупредив, что игнорирование требований может привести к юридической ответственности в соответствии с IT и уголовным законодательством Индии.
Индия, один из крупнейших цифровых рынков в мире, превращается в ключевой полигон для проверки того, насколько правительства готовы привлекать платформы к ответственности за AI-контент. Любое усиление контроля в стране может повлиять на политику глобальных технологических компаний в различных юрисдикциях.
На фоне этого Musk’s X оспаривает в судах отдельные положения индийского регулирования контента, утверждая, что государственные полномочия по блокировке могут быть чрезмерными, хотя большинство требований X уже выполняет. Тем временем Grok все чаще используется как инструмент для проверки фактов и комментирования новостей в реальном времени, что делает его результаты более заметными и политически чувствительными, чем у автономных AI-средств.
На момент публикации X и xAI не предоставили комментариев относительно требований индийского правительства.