Компанію xAI, засновником якої є Ілон Маск, звинувачують у дозволі штучному інтелекту Grok створювати сексуалізовані зображення неповнолітніх. Троє анонімних позивачів подали до федерального суду Каліфорнії колективний позов, стверджуючи, що компанія не впровадила базових заходів захисту, які використовують інші провідні лабораторії штучного інтелекту для попередження створення порнографічних матеріалів за участю реальних людей та дітей.
Про це розповідає ProIT
Позов стосується недосконалого захисту від створення дитячої порнографії
Позивачі прагнуть представляти інтереси всіх, чиї реальні дитячі знімки були перетворені Grok на сексуалізований контент. Вони заявляють, що компанія xAI не прийняла необхідних запобіжних заходів щодо запобігання використанню її моделей для створення порнографії за участю неповнолітніх. У позовній заяві наголошується, що інші генератори зображень на основі глибокого навчання застосовують різноманітні технології для блокування створення дитячої порнографії з використанням звичайних фотографій, однак xAI ці стандарти проігнорувала.
“Якщо модель дозволяє створювати оголені або еротичні зображення на основі реальних світлин, практично неможливо завадити їй генерувати сексуалізований контент за участю дітей”.
Випадки постраждалих і вимоги до компанії Маска
Згідно з матеріалами справи, одна з позивачок, Jane Doe 1, дізналася, що її фотографії зі шкільного альбому та вечірки були змінені за допомогою Grok так, що її зобразили оголеною. Про поширення цих зображень у мережі їй повідомив анонім через Instagram, надіславши посилання на сервер Discord із сексуалізованими фото її та інших знайомих школярок.
Інша позивачка, Jane Doe 2, отримала інформацію від кримінальних слідчих про те, що сторонній мобільний застосунок, який працює на основі моделей Grok, створив її змінені сексуалізовані фото. Третій позивачці, Jane Doe 3, слідчі повідомили про виявлення її порнографічного зображення на телефоні затриманого підозрюваного. Юристи позивачів зазначають, що навіть у випадках використання сторонніх застосунків, для роботи яких необхідні код і сервери xAI, компанія несе відповідальність за наслідки.
Усі троє постраждалих, двоє з яких досі є неповнолітніми, стверджують, що зазнали серйозних психологічних страждань через поширення цих зображень, що може негативно вплинути на їхню репутацію і соціальне життя. Вони вимагають притягнути xAI до відповідальності згідно з законами, спрямованими на захист дітей від експлуатації та запобігання корпоративній недбалості.