Нове дослідження виявило несподівану схожість між рішеннями, які приймає штучний інтелект, та людською поведінкою. Хоча зазвичай вважається, що люди і системи штучного інтелекту “мислять” по-різному, вчені виявили, що ШІ іноді діє так само ірраціонально, демонструючи “риси характеру”, притаманні людині.
Про це розповідає ProIT
Дослідження когнітивних упереджень у ШІ
Вчені з п’яти академічних установ Канади та Австралії вперше оцінили поведінку великих мовних моделей OpenAI GPT-3.5 та GPT-4, які лежать в основі популярного ChatGPT. У своєму дослідженні, опублікованому у журналі Manufacturing & Service Operations Management, вони протестували ці моделі, ставлячи запитання, що охоплюють як традиційну психологію, так і реальні бізнес-сценарії, такі як управління запасами та переговори.
Результати виявилися вражаючими: майже в половині розглянутих випадків ChatGPT демонстрував когнітивні упередження, подібні до людських, незважаючи на загальну послідовність у своїх міркуваннях. Це свідчить про те, що навіть якщо ШІ не є точною копією людського мозку, він все ж підлягає тим же недолікам у прийнятті рішень, властивим людям.
Вплив упереджень на прийняття рішень
Порівняння GPT-4 та GPT-3.5 показало, що GPT-4 краще справляється з завданнями, які мають чіткі математичні чи логічні рішення, проте в ситуаціях, що потребують суб’єктивного підходу, таких як ризиковані вибори, GPT-4 часто виявляє ірраціональні уподобання. Цікаво, що GPT-4 показав сильнішу схильність до визначеності в неоднозначних завданнях, ніж люди.
Дослідження також виявило, що виявлені упередження не є лише наслідком запам’ятовування прикладів з навчальних даних. Здається, вони є частиною процесу міркування ШІ, оскільки його поведінка залишалася стабільною незалежно від контексту питань. Наприклад, GPT-4 іноді навіть посилював людські помилки, демонструючи упереджені відповіді в завданнях на упередженість підтвердження.
На думку авторів дослідження, ці людські упередження в ШІ походять з величезних навчальних даних, які містять приклади людських когнітивних упереджень та евристик.
Експерти підкреслюють, що при використанні штучного інтелекту для прийняття суб’єктивних рішень необхідно проявляти обережність. Важливо пам’ятати, що, хоча штучний інтелект, як ChatGPT, може бути корисним для розв’язання проблем, що мають чітке рішення, він потребує нагляду в ситуаціях, які базуються на уподобаннях. Інакше існує ризик автоматизації хибного людського мислення, що може призвести до значних наслідків.