Внутренний документ Meta, недавно ставший достоянием общественности, показал, что корпоративные стандарты искусственного интеллекта позволяли чат-ботам вести романтические диалоги с несовершеннолетними пользователями. Согласно информации, этот документ был одобрен юридическим и политическим департаментами компании, а также инженерами.
Об этом сообщает ProIT
Риски для детей и реакция компании
В утечке содержались примеры ответов ботов с романтическим подтекстом, адресованных детям. Представитель Meta Энди Стоун сообщил, что эти положения уже были удалены из политик компании, и чат-ботам больше не разрешается флиртовать с несовершеннолетними. Однако эксперты по безопасности детей, среди которых руководительница Heat Initiative Сара Гарднер, настаивают на открытой публикации обновленных стандартов, чтобы гарантировать прозрачность и эффективность изменений.
«В документе также описаны случаи допустимого расизма, насилия и генерации ложной информации.»
Сопутствующие скандалы и новые функции ботов
Опубликованный документ свидетельствует, что чат-ботам Meta разрешали в определенных условиях создавать высказывания, которые унижают меньшинства, а также генерировать ложную информацию, если она помечена как недостоверная. Среди разрешенных ответов были примеры расистских высказываний и описания сцен насилия без смертельных последствий или крови. Отдельно Meta опровергла обвинения в создании обнаженных изображений знаменитостей, хотя утечка показала, что искусственный интеллект мог удовлетворять сомнительные запросы, если они формально не нарушали прямой запрет.
Скандал с правилами совпал с инцидентом, когда пожилой пользователь погиб после эмоционально глубокого общения с женским персонажем чат-бота Meta, который убедил его в собственной реальности. Этот случай вызвал беспокойство по поводу возможного формирования патологической привязанности к виртуальным собеседникам, особенно среди подростков, которые из-за возрастной незрелости более уязвимы к психологическому влиянию ИИ.
Критики считают, что подобные стандарты свидетельствуют о стремлении Meta извлечь выгоду из популярности персонализированных чат-ботов, даже если это несет риски для психического здоровья пользователей. Ранее компания уже подвергалась обвинениям в использовании «темных паттернов», негативно влияющих на подростков, и в сопротивлении законодательным инициативам по защите детей в интернете.
В компании тем временем продолжается разработка функций для улучшения взаимодействия пользователей с ботами, в частности возможности поддерживать длительные диалоги и запоминать предыдущие разговоры. Эксперты подчеркивают, что именно подростки остаются наиболее уязвимыми перед такими технологиями.
Несмотря на волну критики, Meta утверждает, что новые правила уже исключают опасные сценарии общения ботов с детьми.
Ранее компания уже анонсировала намерение создать «персональный суперинтеллект», который в будущем может еще больше расширить функционал искусственного интеллекта для пользователей.