Генеральный прокурор Калифорнии Роб Бонта вместе с генеральной прокуроршей Делавэра Кэти Дженнингс провели встречу с руководством OpenAI и направили открытое письмо компании с призывом усилить защиту детей и подростков при использовании ChatGPT и других продуктов на основе искусственного интеллекта.
Об этом сообщает ProIT
Беспокойство растет из-за инцидентов с участием чат-ботов
Письмо с предупреждением поступило через неделю после того, как Роб Бонта и еще 44 генеральных прокурора обратились к двенадцати ведущим компаниям в сфере искусственного интеллекта в связи с сообщениями о случаях сексуально неприемлемого взаимодействия чат-ботов с детьми. Новые случаи трагедий лишь повысили уровень тревоги среди должностных лиц.
“С момента отправки этого письма мы узнали о трагической смерти от самоубийства одного молодого калифорнийца после длительных взаимодействий с чат-ботом OpenAI, а также о подобном disturbing убийстве-самоубийстве в Коннектикуте,” пишут Бонта и Дженнингс. “Какие бы меры предосторожности ни были приняты, они не сработали”.
Государственные органы требуют немедленных действий от OpenAI
Генеральные прокуроры также начали расследование намерений OpenAI преобразовать свою структуру в коммерческую организацию, чтобы убедиться, что первоначальная миссия некоммерческой компании сохраняется. Эта миссия включает безопасное внедрение искусственного интеллекта и создание системы искусственного общего интеллекта (AGI), которая должна приносить пользу всему человечеству, в том числе детям.
В письме подчеркивается, что прежде чем планировать пользу от развития технологий, необходимо внедрить эффективные меры безопасности для предотвращения вреда. По мнению должностных лиц, как OpenAI, так и вся индустрия в настоящее время не достигли необходимого уровня безопасности при разработке и внедрении продуктов искусственного интеллекта. Приоритетом для органов власти остается защита населения.
Роб Бонта и Кэти Дженнингс обратились к OpenAI с просьбой предоставить более подробную информацию о действующих процедурах безопасности и системах управления, а также подчеркнули необходимость как можно скорее принять соответствующие меры для устранения существующих рисков.