Новое исследование выявило неожиданное сходство между решениями, которые принимает искусственный интеллект, и человеческим поведением. Хотя обычно считается, что люди и системы искусственного интеллекта “мыслят” по-разному, ученые обнаружили, что ИИ иногда действует так же иррационально, демонстрируя “черты характера”, присущие человеку.
Об этом сообщает ProIT
Исследование когнитивных предвзятостей в ИИ
Ученые из пяти академических учреждений Канады и Австралии впервые оценили поведение крупных языковых моделей OpenAI GPT-3.5 и GPT-4, которые лежат в основе популярного ChatGPT. В своем исследовании, опубликованном в журнале Manufacturing & Service Operations Management, они протестировали эти модели, задавая вопросы, охватывающие как традиционную психологию, так и реальные бизнес-сценарии, такие как управление запасами и переговоры.
Результаты оказались впечатляющими: почти в половине рассмотренных случаев ChatGPT демонстрировал когнитивные предвзятости, аналогичные человеческим, несмотря на общую последовательность в своих рассуждениях. Это свидетельствует о том, что даже если ИИ не является точной копией человеческого мозга, он все же подвержен тем же недостаткам в принятии решений, свойственным людям.
Влияние предвзятостей на принятие решений
Сравнение GPT-4 и GPT-3.5 показало, что GPT-4 лучше справляется с задачами, имеющими четкие математические или логические решения, однако в ситуациях, требующих субъективного подхода, таких как рискованные выборы, GPT-4 часто проявляет иррациональные предпочтения. Интересно, что GPT-4 показал более сильную склонность к определенности в неоднозначных задачах, чем люди.
Исследование также выявило, что обнаруженные предвзятости не являются лишь следствием запоминания примеров из обучающих данных. Кажется, они являются частью процесса рассуждения ИИ, поскольку его поведение оставалось стабильным независимо от контекста вопросов. Например, GPT-4 иногда даже усиливал человеческие ошибки, демонстрируя предвзятые ответы в задачах на предвзятость подтверждения.
По мнению авторов исследования, эти человеческие предвзятости в ИИ происходят из огромных обучающих данных, которые содержат примеры человеческих когнитивных предвзятостей и эвристик.
Эксперты подчеркивают, что при использовании искусственного интеллекта для принятия субъективных решений необходимо проявлять осторожность. Важно помнить, что, хотя искусственный интеллект, такой как ChatGPT, может быть полезным для решения проблем, имеющих четкое решение, он требует надзора в ситуациях, которые основываются на предпочтениях. В противном случае существует риск автоматизации ошибочного человеческого мышления, что может привести к значительным последствиям.