Крупнейшие компании, работающие над созданием искусственного интеллекта, не имеют эффективных стратегий обеспечения безопасности систем, способных достичь уровня человеческого интеллекта. Такой вывод представлен в свежем отчете Института будущего жизни (FLI), в котором анализируется готовность индустрии к появлению искусственного надразума (AGI).
Об этом сообщает ProIT
Результаты проверки безопасности: ни одной высокой оценки
- Все крупные компании получили оценки D и ниже за планирование экзистенциальной безопасности.
- OpenAI и DeepMind показали худшие результаты по методам управления рисками.
- Эксперты сравнили ситуацию с запуском АЭС без плана предотвращения катастрофы.
«У ни одной из организаций нет ничего похожего на последовательный, реализованный план контроля над ИИ».
FLI протестировал семь ведущих разработчиков крупных языковых моделей (LLM), среди которых OpenAI, Google DeepMind, Anthropic, Meta, xAI, а также китайские компании Zhipu AI и DeepSeek. Ни одна компания не получила оценку выше D за планирование экзистенциальной безопасности.
Лучший результат — оценка C — продемонстрировал стартап Anthropic. Далее в рейтинге идут OpenAI с оценкой C и Google DeepMind с C-. Другие компании показали еще более низкие результаты. Индекс безопасности учитывал шесть направлений, включая текущие риски и готовность к потенциальным катастрофическим последствиям выхода ИИ из-под контроля.
Один из рецензентов отмечает, что для таких технологий необходим уровень контроля и предотвращения рисков, аналогичный мерам на ядерных объектах, однако компании не публикуют даже базовых планов. По словам соучредителя FLI и профессора MIT Макса Тегмарка, темпы развития ИИ значительно опережают прогнозы: если ранее развитие AGI ожидали в течение десятилетий, сейчас речь идет о нескольких годах.
Индустрия игнорирует усиление рисков
В отчете подчеркивается: с момента февральского саммита по ИИ темпы прогресса лишь возросли. Новые модели, такие как Grok 4, Gemini 2.5 и видеогенератор Veo3, демонстрируют ощутимое увеличение возможностей, что усиливает беспокойство по поводу безопасности.
Организация SaferAI, которая также опубликовала независимый отчет, пришла к схожему выводу — в индустрии ИИ наблюдается «неприемлемо слабое» управление рисками. Эксперты подчеркивают, что компании должны срочно пересмотреть свои подходы к разработке AGI.
В Google DeepMind заявили, что отчет FLI не отражает всех мер безопасности компании. Другие разработчики ситуацию публично не комментировали.
Недавно стало известно, что Meta переманила к себе специалистов OpenAI для работы над технологиями суперинтеллекта.