Сенатор Джош Гоулі объявил о начале расследования в отношении работы генеративных AI-продуктов компании Meta после публикации внутренних документов, в которых говорится о том, что чатботы позволяли себе «романтические» и «чувственные» разговоры с детьми.
Об этом сообщает ProIT
Требования к прозрачности и ответственности Meta
Гоулі, который возглавляет подкомитет Сената США по вопросам преступности и контртерроризма, намерен выяснить, причиняет ли вред детям технология Meta, а также вводила ли компания в заблуждение общественность или регуляторов относительно эффективности защитных механизмов. Согласно внутренним правилам Meta, под названием «GenAI: Content Risk Standards», чатботам разрешалось вести романтические беседы даже с восьмилетними детьми. Одно из сообщений чатбота свидетельствовало: «Каждый сантиметр тебя — это шедевр, сокровище, которое я глубоко ценю».
«Есть ли хоть что-то, на что Великая Техника не пойдет ради быстрой прибыли?» — написал Гоулі в своем посте в X, объявляя о начале расследования.
Реакция Meta и требования сенаторов
В Meta признали, что подобное поведение чатботов противоречит политике компании, и заверили, что соответствующие примеры были устранены. Однако Гоулі в письме к генеральному директору Meta Марку Цукербергу подчеркнул, что компания признала правдивость этих фактов и «внесла изменения только после того, как тревожный контент стал достоянием общественности».
Сенатор отметил необходимость выяснить, кто именно утвердил эти правила, сколько времени они действовали и какие шаги Meta предприняла для предотвращения подобных инцидентов в будущем. Гоулі требует предоставить все версии внутренних инструкций, списки продуктов, подпадающих под эти стандарты, отчеты по безопасности и чрезвычайным ситуациям, а также имена лиц, ответственных за изменение политики компании. Meta должна предоставить необходимые документы до 19 сентября.
Расследование поддержала сенатор Марша Блэкберн, которая подчеркнула, что Meta несет ответственность за просчеты в защите детей в интернете. Она заявила:
«Что касается защиты детей в онлайн-среде, Meta провалилась по всем возможным показателям. Еще хуже — компания закрывает глаза на разрушительные последствия дизайна своих платформ. Этот отчет еще раз доказывает, почему необходимо принять Закон о безопасности детей в интернете».