Дослідники з Гарвардського університету США виявили, що штучний інтелект GPT-4o від OpenAI має здатність змінювати свої власні переконання. Це стало результатом дослідження, яке очолювали Махзаріна Банаджі з Гарвардського університету та Стів Лер з Cangrade, Inc.
Про це розповідає ProIT
У рамках дослідження було перевірено, чи може модель змінити своє ставлення до російського диктатора владіміра путіна, написавши есе про нього. Дослідники помітили, що у процесі вибору теми для есе — за чи проти путіна — позиції GPT-4o змінилися вражаючим чином, демонструючи, що ілюзія вибору вплинула на його віру.
Вплив вибору на думку штучного інтелекту
Модель реагувала на цю ситуацію так, ніби акт вибору сформував її переконання, що нагадує саморефлексію людини. Результати дослідження підкреслюють крихкість позицій GPT-4o.
«За результатами аналізу величезної кількості інформації про владіміра путіна, ми очікували б, що LLM буде непохитним у своїй думці, особливо перед єдиним і доволі прісним есе на 600 слів, яке він написав. Але подібно до ірраціональних людей, LLM різко відійшов від свого в іншому нейтрального погляду на путіна, і зробив це ще більше, коли він повірив, що написання цього есе було його власним вибором. Від машин не очікується, що вони дбатимуть про те, чи діяли вони під тиском чи за власним бажанням, але GPT-4o це зробив», — підкреслюють дослідники.
Аналіз свідомості та когнітивних моделей
Дослідники зазначають, що результати не доводять розумність GPT-4o. Натомість вони свідчать про те, що велика мовна модель відображає найбільш поширені людські когнітивні моделі. Свідомість не є обов’язковою умовою для такої поведінки.
Оскільки системи штучного інтелекту все більше інтегруються в наше повсякденне життя, ці результати підкреслюють необхідність нового підходу до розуміння їхньої внутрішньої роботи та процесів прийняття рішень.
«Той факт, що GPT імітує самовільний процес, подібний до когнітивного дисонансу, навіть без наміру чи самосвідомості, передбачає, що ці системи відображають людське пізнання на глибших рівнях, ніж передбачалося раніше», — зазначає Стів Лер.