OpenAI розпочала глобальне розгортання нової системи визначення віку для користувачів ChatGPT. Мета нової функції — автоматично захищати неповнолітніх, аналізуючи стиль спілкування, контекст запитів, історію акаунта та інші сигнали. Проте, на практиці система часто помилково ідентифікує дорослих як підлітків, через що останнім доводиться стикатися з обмеженим доступом до контенту.
Про це розповідає ProIT
Як працює система перевірки віку
OpenAI пояснює, що алгоритм аналізує сукупність факторів: історію акаунта, стиль комунікації та загальну активність користувача. Якщо система не впевнена у віці, вона діє максимально обережно, тому нові або «нетипові» акаунти можуть автоматично потрапити до підліткової категорії. Така обережність триває ще з етапу тестування, однак не стала на заваді глобальному запуску функції.
“Ми впроваджуємо прогнозування віку в ChatGPT, щоб визначати, коли акаунт, ймовірно, належить особі до 18 років, і відповідно застосовувати необхідні заходи безпеки та налаштування для підлітків. Дорослі, які помилково визначені як підлітки, можуть підтвердити свій вік у налаштуваннях акаунта…”
Перевірка віку через сторонній сервіс і питання конфіденційності
Щоб підтвердити свій вік, користувачам пропонують пройти ідентифікацію через сторонній сервіс Persona. Для цього може знадобитися пред’явлення посвідчення особи або відео селфі. OpenAI підкреслює, що не має доступу до особистих даних: компанія отримує лише відповідь «так» або «ні», а всі надані відомості видаляються після перевірки. Однак така практика викликає занепокоєння серед користувачів щодо захисту приватності й потенційного розвитку систем ідентифікації у майбутньому.
Схожі інструменти раніше запроваджували YouTube та Instagram — і вони теж зіткнулися з численними скаргами від дорослих, яких система помилково визначала як підлітків. У ChatGPT ця проблема проявляється особливо гостро, оскільки сервіс широко використовується для навчання, роботи та навіть психологічної підтримки. OpenAI обіцяє вдосконалювати свої алгоритми на основі відгуків спільноти, проте наразі багато користувачів негативно сприймають такі обмеження, вважаючи їх нав’язливими, особливо якщо система безпідставно визначає їх як неповнолітніх.