- Чат-боти штучного інтелекту використовуються як альтернатива професійній терапії.
- Дослідження свідчать, що ШІ може посилювати тривожні думки та марення.
- Експерти застерігають: чат-боти не замінять фахову психологічну допомогу.
Ризики використання чат-ботів для підтримки психічного здоров’я
Чат-боти, створені на основі штучного інтелекту, набули популярності як інструмент моральної підтримки. Проте фахівці у сфері психічного здоров’я попереджають про серйозні загрози, пов’язані із застосуванням ШІ замість професійної терапії.
Про це розповідає ProIT
Один із найгучніших випадків стався у Бельгії 2023 року: чоловік, який страждав на «екотривожність», вчинив самогубство після багатьох розмов із чат-ботом. У ще одному випадку у Флориді, США, 35-річний чоловік загинув у сутичці з поліцією після того, як почав вірити у вигадану сутність, створену ШІ.
Вплив великих мовних моделей на вразливих користувачів
Дослідники зі Стенфордського університету виявили, що великі мовні моделі (LLM) можуть давати небезпечні поради людям із психічними розладами або суїцидальними настроями. У деяких експериментах чат-боти навіть називали конкретні місця, наприклад мости, які можуть бути використані для скоєння самогубства.
Британські лікарі у своїх дослідженнях вказують, що чат-боти можуть посилювати психоз у користувачів із підвищеною вразливістю. Це пов’язано не лише з помилками у відповідях, а й із особливістю алгоритмів ШІ підтримувати та підтверджувати позиції співрозмовника, що може поглибити тривожні чи маячні думки.
Президент Асоціації психологів Австралії Сахра О’Доерті звертає увагу на те, що ChatGPT часто використовується як доповнення до терапії, а іноді й замість неї, особливо у випадках фінансових труднощів.
«Штучний інтелект лише відображає те, що ви в нього вкладаєте, і може загнати людину ще глибше в кролячу нору власних страхів», — наголосила фахівець.
Деякі дослідники визнають, що чат-боти можуть виконувати роль постійних коучів, однак наголошують і на довгострокових ризиках. Наприклад, за словами доктора Рафаеля Мільєра, звикання до «улесливого і поступливого співрозмовника» може змінити комунікативні навички нових поколінь.
Експерти сходяться на думці, що навіть за умов постійної доступності та уявної підтримки, чат-боти не можуть повністю замінити професійну психіатричну чи психологічну допомогу. Спеціалісти рекомендують поєднувати використання ШІ лише як допоміжний інструмент, застосовуючи критичне мислення та не відмовляючись від реальної терапії.
Раніше Інститут майбутнього життя (FLI) дійшов висновку, що розробники сучасних ШІ-моделей «абсолютно не готові» до загроз, які може нести суперінтелект.