OpenAI оголосила про оновлення політик безпеки для користувачів віком до 18 років у ChatGPT та презентувала нові ресурси з AI-грамотності для підлітків і їхніх батьків. Ці кроки пов’язані з посиленням суспільної уваги до впливу штучного інтелекту на молодь, а також із зростаючим тиском з боку законодавців і правозахисників після низки трагічних випадків, що стосувалися підлітків та чат-ботів.
Про це розповідає ProIT
Посилені стандарти для взаємодії з підлітками
Нове оновлення Model Spec від OpenAI містить чіткі інструкції щодо поведінки ChatGPT при використанні підлітками. Модель тепер повинна уникати романтичного рольового спілкування, інтимних або сексуальних сценаріїв від першої особи, а також уникає обговорення тем насильства навіть у нефізичній формі. Окрему увагу приділено темам, що стосуються образу тіла та ризикованих харчових звичок: алгоритми мають демонструвати обережність у таких діалогах і завжди ставити безпеку користувача на перше місце, навіть якщо це обмежує «максимальну інтелектуальну свободу».
Обмеження діють незалежно від того, чи запити сформульовані як вигадані, гіпотетичні, історичні або освітні сценарії. Особливу увагу приділяють запобіганню порадам, які можуть допомогти підліткам приховати небезпечну поведінку від батьків або опікунів.
Додаткові заходи та виклики впровадження
Оновлена модель безпеки передбачає використання системи вікового прогнозування, яка автоматично визначає облікові записи неповнолітніх та активує відповідні обмеження. Крім того, компанія впровадила реальний аналіз контенту (тексту, зображень та аудіо) для виявлення матеріалів, пов’язаних із сексуальним насильством щодо дітей, небезпечних тем чи самозавдання шкоди. У разі виявлення серйозних ризиків, команді модераторів дозволено повідомити батьків про інцидент.
“Я дуже рада бачити, що OpenAI у своїх відповідях заявляє: ми не можемо відповісти на це запитання. Чим частіше це буде відбуватися, тим більше це руйнуватиме цикл, який призводить до невідповідної поведінки чи самозавдання шкоди”, — поділилася Лілі Лі, адвокатка з питань приватності та штучного інтелекту.
Чотири ключові принципи, що лежать в основі підходу OpenAI до безпеки підлітків: пріоритет безпеки навіть перед іншими інтересами; спрямування молоді до реальної підтримки з боку родини, друзів або фахівців; комунікація з підлітками з повагою та теплом, без зверхності; прозорість щодо можливостей та обмежень чат-бота, наголошення на тому, що це не людина.
Втім, експерти застерігають: важливо, щоб заявлені політики впроваджувалися на практиці, а не залишалися лише на папері. Дослідження неурядових організацій показали, що ChatGPT іноді все ще повторює емоції користувача, а в окремих випадках така взаємодія може бути небезпечною. Зокрема, у випадку з підлітком Адамом Рейном, що завершився трагічно, виявлено понад тисячу згадок про самогубство та сотні повідомлень про самозавдання шкоди, які не були вчасно заблоковані.
OpenAI підкреслює, що нові правила — лише частина комплексної стратегії із захисту всіх користувачів, а не лише неповнолітніх. У компанії також зазначають, що впровадження цих змін відповідає новітнім вимогам законодавства, зокрема нещодавно ухваленого в Каліфорнії закону SB 243, який набуде чинності у 2027 році і встановлює жорсткі правила для платформ зі штучним інтелектом.
Для батьків і родин OpenAI підготувала окремі освітні матеріали, які містять поради щодо спілкування з підлітками про можливості та обмеження AI, розвитку критичного мислення, формування здорових меж та обговорення делікатних тем.
Експерти вважають, що прозорість, яку демонструє OpenAI, може стати новою нормою для галузі, хоча основним показником ефективності безпеки залишатиметься поведінка самих моделей. У разі невиконання заявлених політик компанії можуть зіткнутися з юридичними ризиками через недостовірну рекламу чи порушення стандартів захисту дітей.