Инструменты искусственного интеллекта (ИИ) все больше угрожают вмешиваться в онлайн-решения людей, начиная с того, что покупать, и заканчивая тем, за кого голосовать. Это утверждают исследователи из Кембриджского университета.
Об этом сообщает ProIT
В новом исследовании подчеркивается развитие нового рынка для «цифровых сигналов умысла» – так называемой «экономики намерений». В этой экономике ассистенты на основе ИИ смогут распознавать, прогнозировать и манипулировать человеческими намерениями, продавая эту информацию компаниям, которые могут извлечь из этого прибыль.
Экономика намерений: новый вызов
Исследователи Leverhulme Centre for the Future of Intelligence (LCFI) считают, что экономика намерений станет преемником экономики внимания, где социальные сети удерживают внимание пользователей и показывают им рекламу. Здесь технологические компании, оперирующие ИИ, будут продавать информацию о ваших мотивах – от планов на гостиничный отдых до политических предпочтений – тому, кто предложит наивысшую цену.
"В течение десятилетий внимание было валютой интернета", — отметил доктор Джонни Пенн, историк технологий в LCFI. «Разделение вашего внимания с платформами социальных сетей, такими как Facebook и Instagram, стимулировало онлайн-экономику». Он добавил: «Если не ввести соответствующее регулирование, экономика намерений будет рассматривать ваши мотивации как новую валюту. Это станет гонкой по прибылям для тех, кто нацеливается, управляет и продает человеческие намерения.
Последствия для будущего
Исследователи отмечают, что большие языковые модели (LLMs), технологии, лежащие в основе инструментов ИИ, таких как ChatGPT, будут использоваться для предсказания и управления пользователями на основе интенционных, поведенческих и психологических данных.
Исследование описывает сценарий, где такие примеры динамически генерируются, чтобы соответствовать таким факторам, как персональные поведенческие следы и психологический профиль пользователя.
В будущем цель может продавать намерение пользователя забронировать ресторан, рейс или гостиницу. Хотя существует индустрия, которая занимается прогнозированием и ставками на человеческое поведение, отчет утверждает, что модели ИИ смогут сделать эти практики «высококантифицированными, динамическими и персонализированными».
"Агент [ШИ] может учиться подталкивать своего собеседника к достижению определенной цели", — предостерегает команда исследователей Cicero.
Исследователи также цитируют технических исполнителей, обсуждающих, как модели ИИ могут предусматривать намерения и действия пользователя. Дженсен Хуанг, главный исполнительный директор крупнейшего производителя чипов для ИИ Nvidia, отметил, что модели смогут «обнаружить, что является вашей целью, что вы хотите, что вы пытаетесь сделать в контексте, и предоставить вам информацию наилучшим образом».