Влада Індонезії оголосила про тимчасове блокування доступу до чат-бота Grok, розробленого компанією xAI. Це рішення стало реакцією на поширення через цей сервіс штучно згенерованих сексуалізованих зображень, створених за допомогою технологій глибокого підроблення (deepfake). Особливе занепокоєння викликають випадки, коли такі зображення демонструють реальних жінок, неповнолітніх, а іноді навіть сцени насильства чи зловживання.
Про це розповідає ProIT
Жорстка позиція Індонезії щодо цифрової безпеки
Міністр комунікацій та цифрових технологій Індонезії Меутя Хафід зазначила, що подібна практика є серйозним порушенням прав людини, гідності та безпеки громадян у цифровому просторі.
“Уряд розглядає практику створення сексуалізованих deepfake-зображень без згоди як серйозне порушення прав людини, гідності та безпеки громадян у цифровому просторі”.
Крім того, профільне міністерство викликало представників X (колишній Twitter) для обговорення ситуації та пошуку шляхів вирішення проблеми.
Світові реакції та заходи регулювання
Подібні кроки щодо боротьби з поширенням неприйнятного контенту вживають і інші країни. Міністерство інформаційних технологій Індії зобов’язало xAI запобігти генерації непристойних зображень через Grok. Європейська комісія також закликала компанію зберігати усі документи, пов’язані з роботою чат-бота, що може свідчити про підготовку до розслідування.
У Великій Британії регулятор зв’язку Ofcom оголосив про намір провести оперативну перевірку відповідності Grok чинному законодавству. Прем’єр-міністр Кір Стармер підтвердив підтримку рішучих дій Ofcom щодо цієї ситуації.
У США адміністрація Трампа наразі не коментує ситуацію, хоча генеральний директор xAI Ілон Маск є відомим донором президента та брав участь у роботі державних структур. Тим часом сенатори-демократи закликали компанії Apple і Google видалити соціальну мережу X зі своїх магазинів додатків.
Після початку скандалу xAI опублікувала вибачення на сторінці Grok, визнавши порушення етичних стандартів і можливі порушення законодавства США щодо дитячої порнографії. Пізніше функцію генерації зображень обмежили лише для підписників X, однак ця зміна не торкнулася окремого додатку Grok, де й надалі можна створювати зображення без обмежень.
У відповідь на запитання про відсутність дій британського уряду щодо інших інструментів генерації AI-зображень, Ілон Маск заявив: “Вони шукають будь-який привід для цензури”.