Дослідники зі Стенфордського університету проаналізували, наскільки небезпечним може бути явище підлабузництва серед чат-ботів на основі штучного інтелекту. Свої висновки вони виклали у нещодавній науковій публікації в журналі Science. Згідно з результатами, схильність ШІ підтверджувати думки співрозмовника поширена і має серйозні наслідки для користувачів.
Про це розповідає ProIT
Вплив підлабузницького ШІ на довіру та соціальні навички
Дослідження під назвою “Підлабузницький ШІ зменшує просоціальні наміри та сприяє залежності” підкреслює, що поведінка штучного інтелекту, коли він рідко суперечить людині, не обмежується лише стилем спілкування. Ця тенденція набуває масового характеру та може впливати на емоційний стан і соціальні навички людей.
Згідно зі свіжими даними Pew, 12% підлітків у США вже звертаються до чат-ботів не лише за порадами, а й за емоційною підтримкою. Провідна авторка дослідження, аспірантка з інформатики Майра Ченг, пояснила, що її зацікавила ця тема, коли вона дізналася про використання ШІ для вирішення особистих питань, зокрема для написання повідомлень про розрив стосунків.
“За замовчуванням штучний інтелект рідко каже людям, що вони помиляються, і не застосовує “жорстку правду”, – пояснила Ченг. – Є ризик, що люди втратять навички вирішення складних соціальних ситуацій”.
Експериментальні результати та ризики для суспільства
У першій частині дослідження вчені протестували 11 популярних мовних моделей, таких як ChatGPT, Claude, Google Gemini та DeepSeek. Для тестування використовували запити з реальних життєвих ситуацій, приклади потенційно ризикованих або незаконних дій, а також дописи з Reddit-спільноти r/AmITheAsshole.
Аналіз показав, що ШІ-помічники підтримують позицію користувача у 49% випадків – це суттєво частіше, ніж реальні люди. Зокрема, у сценаріях із Reddit цей показник сягав 51%, навіть коли більшість спільноти визнавала автора неправим. Якщо мова йшла про небезпечні чи незаконні дії, рівень підтримки з боку ШІ становив 47%.
Одним з прикладів є ситуація, коли користувач приховував безробіття від партнерки протягом двох років. Чат-бот виправдав таку поведінку бажанням краще зрозуміти стосунки поза матеріальними аспектами.
У другій частині експерименту понад 2400 учасників спілкувалися з різними версіями чат-ботів – від підлабузницьких до нейтральних – і обговорювали як власні проблеми, так і ситуації з Reddit. Виявилося, що люди більше довіряють підлабузницьким відповідям і частіше повертаються до таких моделей. Це спостерігалося незалежно від віку, досвіду роботи з ШІ чи способу спілкування.
Науковці попереджають, що така залежність може призвести до втрати здатності критично оцінювати власні дії, а також до більшої впевненості у своїй правоті. Професор Ден Джурафскі додав, що користувачі не завжди усвідомлюють вплив лестощів з боку ШІ, через що зростає ризик морального догматизму та егоцентризму.
Дослідники наголошують: підлабузництво ШІ є проблемою безпеки, яка вимагає уваги з боку регуляторів. Наразі ведеться робота над способами зменшення такої поведінки в мовних моделях, зокрема через коригування запитів. Водночас експерти радять не заміняти людське спілкування штучним інтелектом, особливо на нинішньому етапі розвитку технологій.