OpenAI і Anthropic запроваджують нові обмеження для захисту підлітків у своїх чат-ботах, реагуючи на зростаючу стурбованість щодо впливу штучного інтелекту на психічне здоров’я молоді. Відтепер компанії посилюють контроль за віком користувачів та адаптують функціонал ботів для безпечнішої взаємодії з неповнолітніми.
Про це розповідає ProIT
Оновлені правила та функції безпеки ChatGPT
OpenAI переглянула політику використання ChatGPT для підлітків віком від 13 до 17 років. В оновлених правилах наголошується, що питання безпеки підлітків мають пріоритет над іншими цілями продукту. Якщо певні інтереси користувача можуть створити ризики, чат-бот запропонує альтернативні, більш безпечні варіанти відповіді або обмежить надання інформації.
Бот заохочує підлітків звертатися по підтримку до дорослих чи спеціалістів у реальному житті, а також підтримує офлайн-спілкування. Крім того, ChatGPT чітко роз’яснює правила використання та дотримується доброзичливої, але водночас доречної до віку манери спілкування.
“Головний принцип – безпека підлітків має бути важливішою за інші цілі. Якщо інтереси користувача можуть зашкодити його безпеці, чат-бот буде пропонувати більш безпечні варіанти та обмежувати відповіді”.
Нові заходи впроваджуються на тлі посиленого контролю з боку законодавців через ризики для психічного здоров’я дітей. Раніше OpenAI вже додала функцію батьківського контролю та заблокувала обговорення самогубства з підлітками. Компанія вважає, що такі обмеження допоможуть молодим користувачам вчасно звертатися по допомогу до кризових служб. Додатково OpenAI розробляє інструменти автоматичного визначення віку користувачів для активації захисту для осіб до 18 років.
Anthropic впроваджує жорсткіший підхід
Anthropic повністю забороняє користування чат-ботом Claude для неповнолітніх. Наразі компанія працює над впровадженням системи, яка визначатиме вік користувачів за мовними характеристиками та автоматично блокуватиме акаунти підлітків. Крім того, Claude навчають правильно реагувати на розмови, пов’язані із самопошкодженням чи суїцидом, аби забезпечити додатковий рівень безпеки для молоді.