Компания xAI, основанная Илоном Маском, обвиняется в том, что позволила искусственному интеллекту Grok создавать сексуализированные изображения несовершеннолетних. Трое анонимных истцов подали в федеральный суд Калифорнии коллективный иск, утверждая, что компания не внедрила базовых мер защиты, которые используют другие ведущие лаборатории искусственного интеллекта для предотвращения создания порнографических материалов с участием реальных людей и детей.
Об этом сообщает ProIT
Иск касается недостаточной защиты от создания детской порнографии
Истцы стремятся представлять интересы всех, чьи реальные детские снимки были преобразованы Grok в сексуализированный контент. Они утверждают, что компания xAI не приняла необходимых мер предосторожности для предотвращения использования своих моделей для создания порнографии с участием несовершеннолетних. В исковом заявлении подчеркивается, что другие генераторы изображений на основе глубокого обучения применяют различные технологии для блокировки создания детской порнографии с использованием обычных фотографий, однако xAI эти стандарты проигнорировала.
«Если модель позволяет создавать обнаженные или эротические изображения на основе реальных фотографий, практически невозможно предотвратить ее генерацию сексуализированного контента с участием детей».
Случаи пострадавших и требования к компании Маска
Согласно материалам дела, одна из истцов, Jane Doe 1, узнала, что ее фотографии из школьного альбома и вечеринки были изменены с помощью Grok так, что ее изобразили обнаженной. О распространении этих изображений в сети ей сообщил аноним через Instagram, отправив ссылку на сервер Discord с сексуализированными фото ее и других знакомых школьниц.
Другая истец, Jane Doe 2, получила информацию от криминальных следователей о том, что стороннее мобильное приложение, работающее на основе моделей Grok, создало ее измененные сексуализированные фото. Третьей истцу, Jane Doe 3, следователи сообщили о обнаружении ее порнографического изображения на телефоне задержанного подозреваемого. Юристы истцов отмечают, что даже в случаях использования сторонних приложений, для работы которых необходимы код и серверы xAI, компания несет ответственность за последствия.
Все трое пострадавших, двое из которых все еще являются несовершеннолетними, утверждают, что испытали серьезные психологические страдания из-за распространения этих изображений, что может негативно повлиять на их репутацию и социальную жизнь. Они требуют привлечь xAI к ответственности в соответствии с законами, направленными на защиту детей от эксплуатации и предотвращение корпоративной небрежности.