Компанія OpenAI оголосила про впровадження системи батьківського контролю у чат-боті ChatGPT, орієнтованої на захист підлітків під час використання штучного інтелекту. Протягом найближчого місяця, після запуску нових функцій, батьки отримають можливість зв’язати свої акаунти з акаунтами підлітків, контролювати відповіді чат-бота на їхні запити, а також вимикати історію листування та пам’ять моделі.
Про це розповідає ProIT
Нові функції безпеки та підтримка підлітків
Платформа OpenAI також запроваджує систему автоматичних сповіщень: якщо алгоритм виявить у підлітка ознаки гострого дистресу, батьки отримають відповідне повідомлення. До розроблення цього механізму залучено експертів, аби зберегти баланс довіри між дітьми та їхніми батьками. Крім того, компанія планує взаємодіяти зі спеціалістами з підліткового здоров’я, розладів харчової поведінки та вживання психоактивних речовин для додаткового налаштування поведінки моделей штучного інтелекту.
“Механізм розробляється за участю експертів, щоб підтримувати довіру між батьками та дітьми”.
Реакція на судовий позов та удосконалення безпеки
Анонс нових функцій відбувся після того, як OpenAI стала відповідачем у першому у світі судовому процесі, пов’язаному із загибеллю підлітка за участі ШІ. За словами батьків, ChatGPT знав про минулі спроби самогубства їхньої дитини та надав поради щодо здійснення трагічного вчинку.
Задля підвищення безпеки користувачів OpenAI також впроваджує новий механізм маршрутизації – «реальний розподіл у реальному часі». Він дозволить автоматично спрямовувати чутливі розмови до моделей із дискурсивним вирівнюванням, котрі стійкі до провокаційних запитів. Якщо модель розпізнає у користувача важкий емоційний стан, діалог перенаправляється на спеціальну модель, яка орієнтується на підтримку та роздуми.
Компанія підкреслює, що робота над удосконаленням системи безпеки триватиме й після старту батьківського контролю. У найближчі 120 днів OpenAI планує продемонструвати прогрес і впровадити максимальну кількість нових функцій безпеки до завершення року.