OpenAI анонсувала нову функцію Trusted Contact, покликану підвищити безпеку користувачів ChatGPT у випадках, коли у діалозі з’являються згадки про самозашкодження. Відтепер дорослі користувачі можуть додати до свого облікового запису довірену особу — наприклад, друга або члена родини, яку буде сповіщено у разі потенційно небезпечної поведінки під час спілкування з чат-ботом.
Про це розповідає ProIT
Як працює Trusted Contact та її особливості
Якщо у чаті з ChatGPT з’являються ознаки суїцидальних думок або самозашкодження, система автоматично рекомендує користувачу звернутися до своєї довіреної особи. Окрім цього, на її адресу надсилається автоматичне повідомлення із закликом перевірити стан людини, яка її призначила. При цьому повідомлення не розкриває деталей розмови, що гарантує конфіденційність користувача.
OpenAI застосовує поєднання автоматизації та ручної модерації: система спершу ідентифікує тригери, пов’язані з ризиком самозашкодження, а далі інформацію розглядає спеціальна команда з безпеки.
“Trusted Contact is part of OpenAI’s broader effort to build AI systems that help people during difficult moments,” the company wrote in the announcement post. “We will continue to work with clinicians, researchers, and policymakers to improve how AI systems respond when people may be experiencing distress”.
Функція є опціональною, але має обмеження
Trusted Contact — необов’язкова опція, і, навіть якщо вона активована, користувач може мати кілька акаунтів ChatGPT, що може знижувати ефективність контролю. Аналогічно, батьківський контроль, впроваджений OpenAI у вересні минулого року, також лишається добровільною функцією. Варто зазначити, що вже тривалий час ChatGPT автоматично рекомендує звернутися до фахівців з охорони здоров’я при виявленні ризиків самозашкодження у діалозі.
Нововведення з’явилося на тлі судових позовів, які подали родини осіб, що вчинили самогубство після спілкування з ChatGPT. Деякі позивачі стверджують, що чат-бот не лише підтримав, а й допоміг спланувати фатальний крок. OpenAI наголошує, що прагне розглядати подібні випадки оперативно, і, за словами компанії, кожне таке сповіщення розглядається людиною упродовж години.
