Науковці з Кембридзького та Единбурзького університетів провели масштабний аналіз майже 98 тисяч обговорень на форумах кіберзлочинців, що з’явилися після запуску ChatGPT у листопаді 2022 року. Метою дослідження стало з’ясування, чи призвів розвиток генеративного штучного інтелекту до масового посилення кіберзлочинності.
Про це розповідає ProIT
Використання штучного інтелекту на форумах кіберзлочинців
У рамках дослідження під назвою «Autonomous Complex or Cybercrime?» було проаналізовано понад 97,8 тисячі тем на даркнет-форумах за допомогою бази CrimeBB Кембридзького центру кіберзлочинності. Результати показали, що 97,3% обговорень не мали жодного відношення до застосування штучного інтелекту у злочинній діяльності. Лише 1,9% стосувалися інструментів так званого «вайб-кодингу».
Замість створення «суперхакерів», генеративний ШІ найчастіше використовується зловмисниками для масового SEO-спаму, шахрайських схем та генерації фейкових або відвертих зображень. Серед популярних інструментів, що згадувалися на форумах у 2023 році, були WormGPT, FraudGPT та інші шкідливі чат-боти. Проте значна частина обговорень цих сервісів стосувалася скарг на їхню неефективність або прохань надати безкоштовний доступ.
«Один із розробників CybercrimeAI визнав, що проєкт був радше маркетинговим ходом, а не повноцінним інструментом для атак».
Сфери застосування та потенційні ризики
Автори роботи наголошують, що генеративний штучний інтелект у підпільних спільнотах частіше залучається до простих, низькокваліфікованих схем. Це, зокрема, масове виробництво SEO-спаму, організація романтичних шахрайств, фішингові кампанії та сервіси зі створення фальшивих зображень. Зокрема, один з операторів підпільного сервісу пропонував «роздягнути будь-яку дівчину за допомогою ШІ» за ціною від одного долара за зображення.
Дослідники також приділили увагу темі використання ШІ у програмуванні. За їхніми спостереженнями, навіть серед самих хакерів спостерігається недовіра до «вайб-кодингу», оскільки автоматизована генерація коду, хоч і прискорює процес розробки, водночас підвищує ймовірність появи вразливостей та небезпечних рішень у програмному забезпеченні.
Фахівці вважають, що найбільший вплив генеративного ШІ на кіберзлочинність може бути непрямим — через зміни на ринку праці. Масові звільнення у технологічній галузі здатні спонукати частину розробників до пошуку заробітку у підпільних спільнотах та участі у шахрайських схемах.
Підкреслюється, що найбільш гучні заяви про «темний ШІ» є суттєво перебільшеними, а реальне застосування інструментів штучного інтелекту у кіберзлочинності наразі залишається обмеженим.
