Інструменти штучного інтелекту (ШІ) все більше загрожують втручатися в онлайн-рішення людей, починаючи від того, що купувати, і закінчуючи тим, за кого голосувати. Це стверджують дослідники з Кембриджського університету.
Про це розповідає ProIT
У новому дослідженні підкреслюється розвиток нового ринку для «цифрових сигналів наміру» — так званої «економіки намірів». У цій економіці асистенти на основі ШІ зможуть розпізнавати, прогнозувати та маніпулювати людськими намірами, продаючи цю інформацію компаніям, які можуть отримати з цього прибуток.
Економіка намірів: новий виклик
Дослідники з Leverhulme Centre for the Future of Intelligence (LCFI) вважають, що економіка намірів стане наступником економіки уваги, де соціальні мережі утримують увагу користувачів та показують їм рекламу. Тут технологічні компанії, що оперують ШІ, продаватимуть інформацію про ваші мотиви — від планів на готельний відпочинок до політичних уподобань — тому, хто запропонує найвищу ціну.
«Протягом десятиліть увага була валютою інтернету», — зазначив доктор Джонні Пенн, історик технологій у LCFI. «Поділ вашої уваги з платформами соціальних мереж, такими як Facebook та Instagram, стимулював онлайн-економіку». Він додав: «Якщо не запровадити відповідне регулювання, економіка намірів буде розглядати ваші мотивації як нову валюту. Це стане гонкою за прибутками для тих, хто націлюється, керує та продає людські наміри.
Наслідки для майбутнього
Дослідники зазначають, що великі мовні моделі (LLMs), технології, які лежать в основі інструментів ШІ, таких як ChatGPT, будуть використовуватися для «передбачення та керування» користувачами на основі «інтенційних, поведінкових та психологічних даних».
Дослідження описує сценарій, де такі приклади «динамічно генеруються», щоб відповідати таким факторам, як «персональні поведінкові сліди» та «психологічний профіль» користувача.
У майбутньому мета може продавати намір користувача забронювати ресторан, рейс чи готель. Хоча вже існує індустрія, що займається прогнозуванням та ставками на людську поведінку, звіт стверджує, що моделі ШІ зможуть зробити ці практики «висококвантифікованими, динамічними та персоналізованими».
«Агент [ШІ] може вчитися підштовхувати свого співрозмовника до досягнення певної мети», — застерігає команда дослідників за Cicero.
Дослідники також цитують технічних виконавців, які обговорюють, як моделі ШІ можуть передбачати наміри та дії користувача. Дженсен Хуанг, головний виконавчий директор найбільшого виробника чипів для ШІ Nvidia, зазначив, що моделі зможуть «виявити, що є вашою метою, що ви бажаєте, що ви намагаєтесь зробити в контексті, і подати вам інформацію в найкращий можливий спосіб».