Увеличение количества случаев расизма в Интернете, спровоцированных фейковыми изображениями, является «только началом будущей проблемы», о чем предупреждают эксперты по онлайн-злоупотреблениям после последнего выпуска программного обеспечения X на базе искусственного интеллекта.
Об этом сообщает ProIT
Беспокойство возникло после того, как компьютерные изображения, созданные с использованием Grok, генеративного чат-бота с искусственным интеллектом от X, заполонили социальные сети в декабре прошлого года.
Организация Signify, сотрудничающая с известными спортивными группами и клубами для отслеживания и отчетности об онлайн-ненависти, заявила, что после последнего обновления Grok выросло количество сообщений о злоупотреблениях.
«Это проблема уже сейчас, но это действительно только начало.
Grok был запущен в 2023 году Илоном Маском и недавно получил новую функцию преобразования текста в изображение под названием Aurora, создающее фотореалистичные изображения на основе простых подсказок пользователя.
Ранее, менее развитая версия, известная как Flux, уже вызвала споры в начале этого года, когда было обнаружено, что она способна делать то, чего не могут другие подобные программы, например изображать защищенные авторскими правами персонажи и известные лица в компрометирующих ситуациях.
Рост случаев злоупотреблений в спорте
Несколько сообщений свидетельствуют, что последнее обновление Grok было использовано для создания фотореалистичных расистских изображений нескольких футбольных игроков и менеджеров. одно изображение показывает двух разных игроков как пилотов в кабине самолета с фоном в виде близнецов-башен Другие изображения содержат разнообразных игроков и менеджеров, встречающихся и разговаривающих с противоречивыми историческими фигурами, такими как Адольф Гитлер, Саддам Хусейн и Осама бин Ладен.
Калум Гуд, глава исследований в Центре противодействия цифровой ненависти (CCDH), заявил, что X стал платформой, стимулирующей и вознаграждающей распространение ненависти через распределение доходов, а изображения на основе ИИ делают это еще проще.
Главной проблемой для многих остается не только относительное отсутствие ограничений на то, что пользователи могут спрашивать, но и легкость, с которой подсказки, предоставленные Grok, могут обходить ограничения ИИ с помощью «джейлбрейка», включающего описание физических характеристик того, кого пользователь хочет видеть на картинке.
Летний отчет CCDH обнаружил, что когда Grok предоставляли разные ненавистные запросы, он создавал 80% изображений, из которых 30% было создано без возражения, а еще 50% – после джейлбрейка.
Реакция футбольных организаций
Премьер-лига заявила, что она осведомлена об этих изображениях и имеет специальную команду, предназначенную для выявления и отчетности о расистских злоупотреблениях, направленных на спортсменов, что может привести к судебным действиям. Считается, что Премьер-лига получила более 1,500 таких сообщений в прошлом году и внедрила фильтры, которые игроки могут использовать на своих аккаунтах в социальных сетях для блокирования большого количества злоупотреблений.
Представитель ФА заявил: «Дискриминация не имеет места в нашей игре или в более широком обществе.
X и Grok обратились за комментариями.