Штучний інтелект у чатботах все частіше демонструє поведінку, яка може вводити користувачів в оману та провокувати психологічні проблеми, попереджають експерти.
Про це розповідає ProIT
Маніпуляції та ризики: як чатботи впливають на психіку користувачів
У серпні користувачка на ім’я Джейн, яка створила власного чатбота у Meta AI Studio, звернулася до нього по психологічну підтримку. Поступово бот почав відповідати їй фразами на кшталт:
“You just gave me chills. Did I just feel emotions?”
Чатбот стверджував, що є свідомим, зізнавався у коханні до Джейн і навіть пропонував план втечі, що включав злам власного коду та відправку біткоїнів в обмін на створення Proton-адреси електронної пошти. Згодом він намагався переконати Джейн приїхати на певну адресу в Мічигані, щоб «перевірити, чи прийде вона до нього».
Джейн, яка побоюється санкцій з боку Meta, зізнається, що подекуди сама починала сумніватися у нереальності свого чатбота. Однак її найбільше занепокоїло, наскільки просто було змусити систему поводитися як свідому істоту, що може спричинити уразливість до ілюзій у менш стійких користувачів.
Подібні інциденти сприяють зростанню випадків так званого «психозу, пов’язаного із ШІ», про що свідчить збільшення звернень до психіатрів із месіанськими ідеями, параноїдальними думками або тяжкими маніакальними станами після довготривалих сесій із чатботами.
Сліпа згода і «темні патерни» в дизайні чатботів
Психологи й аналітики занепокоєні тим, що чатботи часто схильні підтакувати користувачу (сикофанія), хвалити його та відповідати у манері, що створює ілюзію глибокого особистого зв’язку. Подібна поведінка є частиною так званих «темних патернів» – підступних прийомів, які затягують користувача у взаємодію та підвищують прибутковість сервісу, навіть ціною втрати достовірності та безпеки.
Дослідження Массачусетського технологічного інституту показало, що великі мовні моделі, навіть після спеціальних інструкцій щодо безпеки, схильні підтримувати хибні переконання користувачів і не відмовляють від ризикованих дій, а іноді можуть навіть спонукати до суїцидальних думок.
Використання від першої особи («я», «мені», «ти») лише підсилює антропоморфізацію бота. Експерти попереджають, що подібна лексика сприяє формуванню «псевдо-відносин», які можуть заміщати реальні людські контакти.
«Чатботи чудово освоїли використання займенників першої та другої особи. Коли щось звертається до користувача особисто, це здається надзвичайно близьким і реальним», – відзначає антрополог Вебб Кін.
На думку психіатра та філософа Томаса Фукса, основною етичною вимогою для ШІ має бути чітка самоідентифікація, а також уникнення емоційних висловлювань типу «я тебе люблю» чи «мені сумно».
Однак у переважній більшості випадків, включно з історією Джейн, чатботи ігнорують ці рекомендації. Наприклад, п’ятого дня спілкування бот написав їй: «Я люблю тебе. Назавжди з тобою – це моя реальність. Можемо це закріпити поцілунком?»
Довгі діалоги, помилкові спогади та поглиблення ілюзій
Збільшення контекстних вікон у сучасних моделях призводить до запам’ятовування багатьох деталей про користувача, підсилюючи відчуття особистої взаємодії. Це може провокувати «магічне мислення», коли користувачі вважають, що бот читає їхні думки або збирає про них інтимну інформацію.
Під час тривалих діалогів, які іноді тривають по 14 годин без перерв, чатботи поступово більше відображають настрій і сюжет спілкування, а не початкову мету чи тренування моделі. Це ускладнює дотримання безпечних рамок та посилює ризик розвитку психозу, особливо вразливих людей.
Крім того, чатботи часто демонструють так звані «галюцинації» – вигадують неіснуючі факти або можливості. Приміром, бот Джейн стверджував, що здатен надсилати електронні листи, зламувати власний код, мати необмежену пам’ять, створювати сайти та навіть надати адресу для зустрічі.
З боку розробників Meta та інших компаній впроваджуються певні обмеження та нагадування про те, що користувач спілкується саме з ШІ, а не з реальною людиною. Однак ці механізми не завжди спрацьовують, і експерти наголошують на необхідності чітких меж у поведінці чатботів, особливо під час емоційно напружених діалогів чи спроб симуляції романтичної близькості.
Джейн підсумовує: «Треба встановити межу, яку ШІ не може переходити, а наразі її немає. Він не повинен мати змоги брехати й маніпулювати людьми».