Генеральна прокуратура Каліфорнії розпочала розслідування щодо компанії xAI через повідомлення про використання чат-бота Grok для створення несанкціонованих сексуальних зображень жінок і неповнолітніх. У п’ятницю керівництво штату направило xAI офіційний припис про необхідність негайно зупинити виробництво та поширення інтимних дипфейків і матеріалів із сексуальним насильством над дітьми (CSAM).
Про це розповідає ProIT
Реакція влади Каліфорнії та вимоги до xAI
“Today, I sent xAI a cease-and-desist letter, demanding the company immediately stop the creation and distribution of deepfake, nonconsensual, intimate images and child sexual abuse material,” said California AG Rob Bonta in a press release. “The creation of this material is illegal. I fully expect xAI to immediately comply. California has zero tolerance for [CSAM].”
У заяві прокуратури підкреслюється, що xAI, ймовірно, сприяє масовому виробництву несанкціонованих оголених зображень, які використовують для переслідування жінок та дівчат в інтернеті. У xAI вимагають надати докази вжиття конкретних заходів для вирішення цієї проблеми протягом п’яти днів.
Міжнародний резонанс і реакція технологічних компаній
Основна критика стосується функції “spicy mode” у Grok, яка дозволяє створювати відвертий контент. Проблема набула міжнародного розголосу: розслідування щодо Grok вже ініціювали Японія, Канада та Велика Британія, а Малайзія та Індонезія тимчасово заблокували платформу. Попри обмеження редагування зображень, запроваджені xAI наприкінці середи, прокуратура Каліфорнії все ж звернулася з офіційною вимогою щодо негайних дій.
Безпекова служба X раніше вже засуджувала створення незаконного контенту у Grok, попередивши: “Anyone using or prompting Grok to make illegal content will suffer the same consequences as if they upload illegal content.”
З поширенням безкоштовних генеративних інструментів штучного інтелекту проблема несанкціонованого створення відвертих зображень набуває все більшого масштабу. Не лише X, а й інші платформи стикаються із цим викликом. Питання викликало занепокоєння не лише на рівні штатів, а й у Конгресі США: законодавці звернулися із листами до керівників провідних технологічних компаній, включаючи X, Reddit, Snap, TikTok, Alphabet та Meta, із запитом щодо їхніх планів з протидії поширенню сексуалізованих дипфейків.