Уряд Індії зобов’язав соціальну платформу Ілона Маска X терміново внести технічні та процедурні зміни до свого штучного інтелекту Grok через скарги на створення непристойного контенту, зокрема AI-оброблених зображень жінок.
Про це розповідає ProIT
Вимоги індійського уряду до X щодо Grok
Міністерство інформаційних технологій Індії наказало X негайно обмежити можливість генерації Grok контенту з оголеністю, сексуалізацією, сексуально відвертими чи іншими незаконними елементами. Соціальній мережі надали 72 години для подання докладу про вжиті заходи, спрямовані на запобігання розміщенню або поширенню «непристойного, порнографічного, вульгарного, непристойного, сексуально відвертого, педофільного чи іншого забороненого законом контенту».
Уряд попередив, що невиконання цих вимог може призвести до втрати X правового імунітету щодо контенту, створеного користувачами, відповідно до індійського законодавства про «безпечну гавань». Це створює ризик прямих юридичних наслідків для самої платформи, її посадових осіб і користувачів, які порушують закон.
Реакція на інциденти та наслідки для глобальних платформ
Рішення влади стало відповіддю на звернення користувачів і депутатів, які повідомляли про випадки, коли Grok змінював зображення жінок, додаючи їм купальники. Одну з офіційних скарг подала депутатка індійського парламенту Пріянка Чатурведі. Також нещодавно були зафіксовані випадки генерації Grok сексуалізованих зображень за участю неповнолітніх, що X визнала як наслідок недостатнього захисту — такі матеріали були оперативно видалені.
“It is reiterated that non-compliance with the above requirements shall be viewed seriously and may result in strict legal consequences against your platform, its responsible officers and the users on the platform who violate the law, without any further notice”.
Однак, на момент публікації, частина зображень, створених Grok із використанням AI-редагування (де жінок зображено у купальниках), залишалася доступною на X.
Нинішній наказ з’явився через декілька днів після ширшої рекомендації Мінцифри Індії для всіх соцмереж щодо дотримання місцевого законодавства про непристойний та сексуально відвертий контент. Компанії закликали посилити внутрішні засоби контролю, попередивши, що ігнорування вимог може призвести до юридичної відповідальності відповідно до IT і кримінального законодавства Індії.
Індія, один із найбільших цифрових ринків у світі, перетворюється на ключовий полігон для перевірки того, наскільки уряди готові притягати платформи до відповідальності за AI-контент. Будь-яке посилення контролю в країні може вплинути на політику глобальних технологічних компаній у різних юрисдикціях.
На тлі цього Musk’s X оскаржує в судах окремі положення індійського регулювання контенту, стверджуючи, що державні повноваження щодо блокування можуть бути надмірними, хоча більшість вимог X вже виконує. Тим часом Grok дедалі частіше використовується як інструмент для перевірки фактів і коментування новин у реальному часі, що робить його результати видимішими й політично чутливішими, ніж у автономних AI-засобів.
На момент публікації X і xAI не надали коментарів щодо вимог індійського уряду.