Збільшення кількості випадків расизму в Інтернеті, спровокованих фейковими зображеннями, є «лише початком майбутньої проблеми», про що попереджають експерти з онлайн-зловживань після останнього випуску програмного забезпечення X на базі штучного інтелекту.
Про це розповідає ProIT
Занепокоєння виникло після того, як комп’ютерні зображення, створені з використанням Grok, генеративного чат-бота зі штучним інтелектом від X, заполонили соціальні мережі у грудні минулого року.
Організація Signify, яка співпрацює з відомими спортивними групами та клубами для відстеження та звітування про онлайн-ненависть, заявила, що після останнього оновлення Grok зросла кількість повідомлень про зловживання. Вони вважають, що поява фотореалістичного ШІ зробить його ще більш поширеним.
«Це проблема вже зараз, але це дійсно лише початок. Очікується, що впродовж наступних 12 місяців вона стане неймовірно серйозною.»
Grok був запущений у 2023 році Ілоном Маском і нещодавно отримав нову функцію перетворення тексту на зображення під назвою Aurora, яка створює фотореалістичні зображення на основі простих підказок користувача.
Раніше, менш розвинута версія, відома як Flux, уже викликала суперечки на початку цього року, коли було виявлено, що вона здатна робити те, чого не можуть інші подібні програми, як-от зображати захищені авторськими правами персонажі та відомі особи у компрометуючих ситуаціях.
Зростання випадків зловживань у спорті
Кілька повідомлень свідчать, що останнє оновлення Grok було використано для створення фотореалістичних расистських зображень кількох футбольних гравців і менеджерів. Одне з таких зображень показує чорного гравця, який збирає бавовну, а інше — того ж гравця, що їсть банан, оточений мавпами в лісі. Ще одне зображення показує двох різних гравців як пілотів у кабіні літака з тлом у вигляді близнюків-башт. Інші зображення містять різноманітних гравців і менеджерів, що зустрічаються та розмовляють із суперечливими історичними фігурами, такими як Адольф Гітлер, Саддам Хусейн та Осама бін Ладен.
Калум Гуд, голова досліджень в Центрі протидії цифровій ненависті (CCDH), заявив, що X став платформою, яка стимулює та винагороджує поширення ненависті через розподіл доходів, а зображення на основі ШІ роблять це ще простішим.
Головною проблемою для багатьох залишається не лише відносна відсутність обмежень на те, що користувачі можуть запитувати, але й легкість, з якою підказки, надані Grok, можуть обходити обмеження ШІ за допомогою «джейлбрейку», що включає опис фізичних характеристик того, кого користувач хоче бачити на зображенні.
Літній звіт CCDH виявив, що коли Grok надавали різні ненависні запити, він створював 80% зображень, з яких 30% було створено без заперечення, а ще 50% – після джейлбрейку.
Реакція футбольних організацій
Прем’єр-ліга заявила, що вона обізнана про ці зображення і має спеціальну команду, призначену для виявлення та звітування про расистські зловживання, спрямовані на спортсменів, що може призвести до судових дій. Вважається, що Прем’єр-ліга отримала понад 1,500 таких повідомлень минулого року і впровадила фільтри, які гравці можуть використовувати на своїх акаунтах у соціальних мережах для блокування великої кількості зловживань.
Представник ФА заявив: «Дискримінація не має місця в нашій грі або в ширшому суспільстві. Ми продовжуємо закликати соціальні медіакомпанії та відповідні органи вирішувати проблему онлайн-зловживань і вживати заходів проти порушників цієї неприпустимої поведінки.»
X і Grok звернулися за коментарями.
