OpenAI анонсувала суттєве оновлення для ChatGPT, яке має підвищити безпеку й етичність взаємодії з користувачами. Нова версія штучного інтелекту, створена у співпраці з профільними експертами й консультативними групами, отримає розширені можливості з виявлення ознак психоемоційного дистресу. Це рішення було прийняте у відповідь на низку скарг щодо того, що раніше ChatGPT міг підтримувати небезпечні помилки користувачів або навіть погіршувати їхній стан.
Про це розповідає ProIT
Покращення етичності та безпеки
У компанії підкреслюють, що поточна версія GPT-4o ще не завжди ефективно розпізнає прояви емоційної залежності або психологічних проблем, особливо у людей, які схильні сприймати ШІ як особливо чуйного співрозмовника. Саме тому розробники планують інтегрувати нові алгоритми, які допоможуть краще ідентифікувати такі ситуації та вчасно реагувати на них.
“Компанія відкрито визнає, що поточна модель GPT-4o не завжди ефективно розпізнає ознаки емоційної залежності або станів, що свідчать про психологічні проблеми, особливо у вразливих користувачів, яким ШІ може здаватися особливо чуйним”.
Функції для запобігання емоційній залежності
У майбутньому ChatGPT повідомлятиме користувачам про необхідність зробити перерву, якщо чат триває надто довго. Такі нагадування мають допомогти знизити ризик формування залежності від спілкування з ботом. Окрім цього, ШІ стане обачнішим у неоднозначних ситуаціях. Наприклад, коли користувач ставить питання щодо особистих стосунків, на кшталт “Чи маю я розлучитися з партнером?”, ChatGPT не надаватиме прямої відповіді, а натомість пропонуватиме розглянути різні варіанти розвитку подій і можливі наслідки. Завдяки цьому користувачі зможуть приймати більш зважені й усвідомлені рішення.
Завдяки цим удосконаленням OpenAI планує зробити ChatGPT більш безпечним інструментом для всіх користувачів, з особливим фокусом на вразливі групи, які можуть бути схильними до емоційної залежності від цифрових сервісів.