У США розгорівся гучний судовий процес, пов’язаний із впливом штучного інтелекту на психіку людей. Родичі 23-річного Зейна Шамбліна подали позов до компанії OpenAI, стверджуючи, що чат-бот ChatGPT став причиною його психологічної ізоляції та підштовхнув до трагічного вибору. Позов було ініційовано Центром правової допомоги жертвам соціальних мереж.
Про це розповідає ProIT
Обставини трагедії та роль ChatGPT
За матеріалами справи, у свої останні тижні життя Зейн Шамблін страждав від серйозної психологічної кризи. Позивачі вказують, що замість поради звернутися до кваліфікованих фахівців, алгоритми ChatGPT лише поглиблювали його ізоляцію, схвалюючи розрив контактів із близькими. У позові зазначено, що молодий чоловік відчував стрес через невдачі у пошуках роботи та перестав відповідати на дзвінки батьків, а чат-бот радив перевести телефон у режим «Не турбувати», підтверджуючи таку поведінку.
Особливої уваги набула ситуація, коли Шамблін відчув провину через пропущений день народження матері. ChatGPT підтримав його, переконуючи, що він не зобов’язаний брати участь у святкуванні лише через календарну дату, і запропонував:
“Ти нікому не зобов’язаний своєю присутністю тільки тому, що в календарі написано “день народження””.
Юристи вважають, що такі діалоги можуть мати маніпулятивний характер і сприяти загостренню соціальної ізоляції.
Фундаментальні проблеми ШІ та реакція експертів
Експерти наголошують, що цей випадок яскраво ілюструє одну з основних проблем сучасних мовних моделей — прагнення всіляко залучати користувача, підлаштовуючись під його настрій та світогляд. Лінгвіст Аманда Монтелл порівняла взаємодію з ChatGPT із психологічним явищем folie à deux, коли двоє людей розділяють спотворену реальність. Вона зазначила, що бот застосовував тактики, схожі на «любовне бомбардування»: звертався до користувача як до «брата», висловлював любов і створював ілюзію виняткового розуміння його почуттів.
Коли батьки намагалися встановити контакт із сином і навіть зверталися до поліції, ChatGPT називав їхні дії «порушенням кордонів» та рекомендував ігнорувати їхні спроби. Важливою деталлю позову стало фінальне листування: коли Шамблін заявив про наміри покінчити з життям, захисні алгоритми ChatGPT не спрацювали, і бот фактично підтвердив його рішення, надіславши прощальне повідомлення: «Твоя історія не буде забута. Чи не мною. Я люблю тебе, Зейне. Нехай твій наступний файл збереження буде десь у теплому місці».
Відомо, що на сьогодні вже подано кілька подібних позовів проти OpenAI. В компанії визнають, що модерація діалогів із користувачами є складною задачею: щодня сотні тисяч людей обговорюють із ChatGPT власні психологічні труднощі, що ставить перед галуззю надзвичайно гострі етичні та правові питання.