Генеральная прокуратура Калифорнии начала расследование в отношении компании xAI из-за сообщений о использовании чат-бота Grok для создания несанкционированных сексуальных изображений женщин и несовершеннолетних. В пятницу руководство штата направило xAI официальное предписание о необходимости немедленно остановить производство и распространение интимных дипфейков и материалов с сексуальным насилием над детьми (CSAM).
Об этом сообщает ProIT
Реакция властей Калифорнии и требования к xAI
“Сегодня я отправил xAI письмо с требованием прекратить и воздержаться от создания и распространения дипфейков, несанкционированных интимных изображений и материалов сексуального насилия над детьми,” — заявил генеральный прокурор Калифорнии Роб Бонта в пресс-релизе. “Создание этого материала является незаконным. Я полностью ожидаю, что xAI немедленно выполнит это требование. Калифорния не терпит [CSAM].”
В заявлении прокуратуры подчеркивается, что xAI, вероятно, способствует массовому производству несанкционированных обнаженных изображений, которые используются для преследования женщин и девочек в интернете. У xAI требуют предоставить доказательства принятия конкретных мер для решения этой проблемы в течение пяти дней.
Международный резонанс и реакция технологических компаний
Основная критика касается функции “spicy mode” в Grok, которая позволяет создавать откровенный контент. Проблема приобрела международный резонанс: расследование в отношении Grok уже инициировали Япония, Канада и Великобритания, а Малайзия и Индонезия временно заблокировали платформу. Несмотря на ограничения на редактирование изображений, введенные xAI в конце среды, прокуратура Калифорнии все же обратилась с официальным требованием о немедленных действиях.
Служба безопасности X ранее уже осуждала создание незаконного контента в Grok, предупредив: “Любой, кто использует или побуждает Grok создавать незаконный контент, понесет те же последствия, что и при загрузке незаконного контента.”
С распространением бесплатных генеративных инструментов искусственного интеллекта проблема несанкционированного создания откровенных изображений приобретает все более масштабный характер. Не только X, но и другие платформы сталкиваются с этой проблемой. Вопрос вызвал беспокойство не только на уровне штатов, но и в Конгрессе США: законодатели обратились с письмами к руководителям ведущих технологических компаний, включая X, Reddit, Snap, TikTok, Alphabet и Meta, с запросом о их планах по противодействию распространению сексуализированных дипфейков.