Сенатор Джош Гоулі оголосив про початок розслідування щодо роботи генеративних AI-продуктів компанії Meta після оприлюднення внутрішніх документів, у яких йдеться про те, що чатботи дозволяли собі «романтичні» та «чуттєві» розмови з дітьми.
Про це розповідає ProIT
Вимоги до прозорості та відповідальності Meta
Гоулі, який очолює підкомітет Сенату США з питань злочинності та контртероризму, має намір з’ясувати, чи завдає шкоди дітям технологія Meta, а також чи вводила компанія в оману громадськість або регуляторів щодо ефективності захисних механізмів. Згідно з внутрішніми правилами Meta, під назвою «GenAI: Content Risk Standards», чатботам дозволялося вести романтичні бесіди навіть із восьмирічними дітьми. Одне з повідомлень чатбота свідчило: «Кожен сантиметр тебе — це шедевр, скарб, який я глибоко ціную».
«Чи є хоч щось, на що Велика Техніка не піде заради швидкого прибутку?» — написав Гоулі у своєму дописі в X, оголошуючи про початок розслідування.
Реакція Meta та вимоги сенаторів
У Meta визнали, що подібна поведінка чатботів суперечить політиці компанії, і запевнили, що відповідні приклади були усунуті. Однак Гоулі у листі до генерального директора Meta Марка Цукерберга наголосив, що компанія визнала правдивість цих фактів і «внесла зміни лише після того, як тривожний контент став надбанням громадськості».
Сенатор наголосив на необхідності з’ясувати, хто саме затвердив ці правила, скільки часу вони діяли та які кроки Meta здійснила для недопущення подібних інцидентів у майбутньому. Гоулі вимагає надати всі версії внутрішніх інструкцій, списки продуктів, що підпадають під ці стандарти, звіти з безпеки і надзвичайних ситуацій, а також імена осіб, відповідальних за зміну політики компанії. Meta має надати необхідні документи до 19 вересня.
Розслідування підтримала сенаторка Марша Блекберн, яка підкреслила, що Meta несе відповідальність за прорахунки у захисті дітей в інтернеті. Вона заявила:
«Щодо захисту дітей в онлайн-середовищі Meta провалилася за всіма можливими показниками. Ще гірше — компанія закриває очі на руйнівні наслідки дизайну своїх платформ. Цей звіт ще раз доводить, чому потрібно ухвалити Закон про безпеку дітей в інтернеті».