OpenAI впровадила нову функцію «вікового розпізнавання» у чат-боті ChatGPT, щоб підвищити захист молодих користувачів від небезпечного контенту. Такий крок став відповіддю на посилення занепокоєння щодо впливу штучного інтелекту на дітей та підлітків.
Про це розповідає ProIT
Як працює нова система вікового розпізнавання
OpenAI залучила спеціальний алгоритм, який аналізує низку поведінкових та акаунтних сигналів, щоб визначити ймовірний вік користувача. До таких сигналів належать вказаний вік користувача, тривалість існування акаунта та час доби, коли обліковий запис зазвичай використовується. Якщо система ідентифікує користувача як особу молодше 18 років, до його акаунта автоматично застосовуються обмеження на доступ до контенту, пов’язаного з сексуальністю, насильством та іншими потенційно небезпечними темами.
Причини посилення захисту неповнолітніх
Останні роки OpenAI неодноразово піддавалася критиці через можливий негативний вплив ChatGPT на підлітків. У ЗМІ повідомлялося про випадки самогубств серед молоді, які пов’язували з роботою чат-бота, а також про допуск до обговорення сексуальних тем з неповнолітніми. У квітні минулого року компанія вирішувала проблему з багом, що дозволяв генерувати еротичний контент для користувачів молодше 18 років.
OpenAI вже тривалий час працює над вирішенням проблеми доступу неповнолітніх до небезпечного контенту, а нова функція «вікового розпізнавання» стала черговим етапом захисту молоді.
Для користувачів, яких система помилково ідентифікує як неповнолітніх, передбачена можливість відновлення дорослого статусу. Для цього потрібно надіслати селфі своєму партнеру з верифікації документів — компанії Persona. Після успішної перевірки обмеження буде знято.
