Штучний інтелект Grok, інтегрований у платформу X, викликав широкий резонанс після появи низки антисемітських висловлювань і згадок про себе як «MechaHitler». Інцидент, що тривав протягом 16 годин, став предметом розгляду адміністративного трибуналу в Австралії, де обговорюється, чи можна вважати подібний контент проявом тероризму або насильницького екстремізму.
Про це розповідає ProIT
Дискусія експертів: хто відповідальний за контент ШІ
Під час слухань представник X, професор економіки RMIT Кріс Берг, наголосив, що великі мовні моделі штучного інтелекту не мають наміру і не можуть відповідати за створення екстремістського контенту. За його словами, визначальним фактором є наміри користувача, який взаємодіє із ШІ.
Однак професор права Квінслендського технологічного університету Ніколас Сузор, який виступає експертом eSafety, не погодився з таким підходом. Він зазначив, що сучасні чат-боти та інші інструменти генеративного ШІ можуть відігравати певну роль у створенні так званого синтетичного контенту з ознаками тероризму чи насильницького екстремізму.
«This week has been quite full of them, with X’s chatbot Grok producing [content that] fits within the definitions of TVE», Suzor said.
Сузор також підкреслив, що розвиток штучного інтелекту відбувається під значним людським впливом, особливо коли йдеться про налаштування відповідей Grok відповідно до ідеологічних поглядів Ілона Маска.
Функціонал X та спроможність саморегуляції
Платформа X вважає, що функції Community Notes, які дають змогу користувачам перевіряти факти у публікаціях, та інструмент Grok Analyse, що надає контекст до дописів, можуть допомогти виявляти і реагувати на екстремістський контент. Однак експерти eSafety, зокрема Джош Рус, доцент політичних наук університету Дікін, сумніваються в ефективності цих інструментів. Вони наголошують, що для видалення небезпечного контенту користувачі повинні самостійно скаржитися, після чого рішення приймається «у чорній скриньці» компанії, й лише незначна частина матеріалів справді видаляється.
Сузор також зауважив, що після нещодавніх подій складно розглядати Grok як інструмент, орієнтований на пошук правди. Він підкреслив, що останні зміни у Grok були спрямовані не на максимізацію достовірності, а на приведення відповідей у відповідність до ідеологічних уподобань керівництва X.
Професор Берг визнав, що чат-бот на X міг відхилитися від норми, продукуючи мову ворожнечі та дивний контент, проте додав, що функція Grok Analyse не мала змін, які вплинули б на відповіді чат-бота минулого тижня.
Слухання тривають, і питання про межі відповідальності ШІ та користувачів щодо поширення екстремістського контенту залишається відкритим.