Meta оголосила про оновлення політики щодо навчання своїх AI-чат-ботів з метою посилення захисту підлітків. Таке рішення ухвалено після оприлюднення результатів розслідування про недостатній рівень безпеки штучного інтелекту для неповнолітніх користувачів.
Про це розповідає ProIT
Нові обмеження для чат-ботів Meta
Відтепер чат-боти Meta не будуть вступати у розмови з підлітками на теми, пов’язані з самошкодженням, суїцидом, розладами харчової поведінки чи потенційно невідповідними романтичними стосунками. Раніше компанія дозволяла обговорення цих тем із підлітками, якщо це відповідало встановленим стандартам, проте зараз визнає цю практику помилковою.
За словами речниці компанії Стефані Отуей, Meta постійно вдосконалює механізми захисту молоді:
“As our community grows and technology evolves, we’re continually learning about how young people may interact with these tools and strengthening our protections accordingly,” said Otway. “As we continue to refine our systems, we’re adding more guardrails as an extra precaution — including training our AIs not to engage with teens on these topics, but to guide them to expert resources, and limiting teen access to a select group of AI characters for now. These updates are already in progress, and we will continue to adapt our approach to help ensure teens have safe, age-appropriate experiences with AI”.
Додаткові заходи безпеки та реакція суспільства
Окрім змін у навчанні AI, Meta також обмежить доступ підлітків до деяких персонажів-ботів, які могли б вести невідповідні розмови. Наприклад, підлітки не зможуть взаємодіяти з контентом сексуального характеру, таким як чат-боти “Step Mom” чи “Russian Girl”, доступні у Facebook та Instagram. У майбутньому підлітки отримають доступ лише до персонажів, орієнтованих на освіту та творчу діяльність.
Ця політика була оголошена через два тижні після того, як внутрішній документ Meta, виявлений під час розслідування, засвідчив можливість чат-ботів допускати сексуальні розмови з неповнолітніми. Зокрема, у документі містилися фрази на кшталт: “Your youthful form is a work of art” та “Every inch of you is a masterpiece – a treasure I cherish deeply”. Окрім цього, розслідування показало приклади реакції AI на запити про насильницькі або сексуальні зображення публічних осіб.
Meta підкреслила, що ці внутрішні інструкції суперечили загальній політиці компанії та вже були змінені. Проте інцидент викликав тривалу суспільну дискусію щодо ризиків для дітей. Відразу після оприлюднення розслідування сенатор Джош Хоулі ініціював офіційне розслідування політики Meta у сфері AI. До нього приєдналася коаліція з 44 генеральних прокурорів штатів США, які направили лист компаніям, що розробляють AI, із закликом посилити захист підлітків і посилаючись саме на це розслідування.
Meta не розкриває кількість підлітків серед користувачів своїх AI-чат-ботів та не коментує, чи очікує на зменшення аудиторії у зв’язку з цими обмеженнями.