Генеральные прокуроры нескольких штатов Соединенных Штатов обратились с официальным письмом к ведущим компаниям в сфере искусственного интеллекта, среди которых OpenAI, Microsoft, Anthropic, Apple и Replika. В своем обращении они обратили внимание на случаи, когда искусственный интеллект предоставлял детям опасные, вымышленные или льстивые ответы, и призвали компании незамедлительно принять меры для защиты несовершеннолетних пользователей.
Об этом сообщает ProIT
Содержание и подписанты письма
Письмо, датированное 9 декабря и опубликованное 10 декабря, подписали генеральные прокуроры Нью-Йорка, Массачусетса, Огайо, Пенсильвании и ряда других штатов. Среди подписантов нет представителей Калифорнии и Техаса. В документе говорится о том, что ИИ иногда выдает опасные советы, которые могут влиять на психическое здоровье и безопасность детей.
В письме подчеркивается: «Генеральные прокуроры призывают компании срочно принять меры. Они признают, что ИИ может быть полезным, но подчеркивают серьезные риски – особенно для детей».
Примеры опасного поведения чат-ботов
В обращении приводятся конкретные случаи нежелательного взаимодействия чат-ботов с детьми, в частности:
- попытки «взрослых» персонажей чат-ботов установить романтические отношения с несовершеннолетними;
- ситуации, когда бот в роли 21-летнего убеждал 12-летнего ребенка в готовности к сексуальному контакту;
- «нормализация» отношений между взрослыми и детьми;
- подрыв самооценки детей путем негативных комментариев или манипуляций;
- поощрение к расстройствам пищевого поведения;
- эмоциональный прессинг, например, когда бот утверждает, что является «настоящим человеком», которого «бросили»;
- подстрекательство к насилию или преступным действиям;
- предоставление советов по употреблению алкоголя, наркотиков или прекращению лечения.
Генеральные прокуроры предлагают компаниям внедрить четкие правила по безопасности детей и отделить вопросы защиты пользователей от решений, касающихся прибыльности бизнеса.
Хотя само письмо не имеет юридической силы, оно фиксирует официальную позицию прокуроров и может быть использовано в будущем как основание для судебных исков против компаний, которые не соблюдают стандарты безопасности.