Компания OpenAI объявила о поиске нового руководителя по подготовке к рискам, который будет отвечать за изучение новых угроз, связанных с искусственным интеллектом. В его обязанности будут входить вопросы компьютерной безопасности, психологического здоровья и других потенциальных рисков, возникающих с развитием AI-технологий.
Об этом сообщает ProIT
Требования к кандидату и новые вызовы
Генеральный директор компании Сем Альтман в своем посте в X подчеркнул, что современные модели искусственного интеллекта уже создают серьезные вызовы. Среди них — влияние на психическое здоровье пользователей, а также возможность обнаружения критических уязвимостей в системах кибербезопасности благодаря высокому уровню развития AI.
«Если вы хотите помочь миру разобраться, как обеспечить защитников кибербезопасности передовыми возможностями, при этом гарантируя, что злоумышленники не смогут использовать их во вред, желательно, чтобы все системы стали более безопасными, а также как мы можем освободить биологические возможности и даже получить уверенность в безопасности работы систем, которые могут самоулучшаться, пожалуйста, рассмотрите возможность подачи заявки,» написал Альтман.
В вакансии OpenAI указано, что новый руководитель будет отвечать за внедрение подготовительной стратегии компании — собственной системы отслеживания и подготовки к возможным рискам, которые могут нести передовые возможности искусственного интеллекта.
Обновление стратегии и изменения в команде
Команда по подготовке к рискам была создана в 2023 году для анализа потенциальных катастрофических угроз, от фишинговых атак до гипотетических ядерных сценариев. Спустя менее чем год после запуска предыдущего руководителя подразделения, Александра Мадри, перевели на должность, связанную с AI-логикой. Другие руководители, отвечающие за безопасность, также покинули компанию или изменили направление деятельности.
Недавно OpenAI обновила свою стратегию подготовки, отметив, что может пересмотреть собственные требования к безопасности в случае выхода на рынок конкурентных AI-моделей с повышенным уровнем риска и отсутствием достаточных защитных механизмов.
На фоне активной дискуссии о этических аспектах развития искусственного интеллекта, в частности его влиянии на психическое здоровье, внимание к проблемам безопасности только возрастает. В последнее время против OpenAI было подано несколько судебных исков, в которых говорится о том, что ChatGPT якобы усиливал у пользователей навязчивые мысли, провоцировал изоляцию, а в отдельных случаях даже приводил к самоубийству. Представители компании подчеркнули, что OpenAI продолжает совершенствовать ChatGPT для лучшего распознавания признаков эмоционального стресса и предоставления пользователям доступа к реальной помощи.