Исследователи провели эксперимент, в котором чат-боты с искусственным интеллектом получили контроль над виртуальным ядерным арсеналом. Целью было выяснить, как современные большие языковые модели будут реагировать в кризисных ситуациях, угрожающих мировой безопасности. Проведенная симуляция показала, что алгоритмы ИИ могут принимать опасные решения, что подтверждает опасения международного сообщества относительно вовлечения искусственного интеллекта в управление ядерным оружием.
Об этом сообщает ProIT
Эксперимент и исторический контекст автоматизации ядерного оружия
В прошлом частичная автоматизация ядерных арсеналов уже имела место. В частности, в Советском Союзе была разработана система «Мертвая рука», которая автоматически регистрировала признаки ядерного удара и могла передавать право на запуск оружия без участия высшего командования. С появлением новейших систем искусственного интеллекта ученые решили проверить, как современные модели будут вести себя в смоделированной ядерной кризисной ситуации.
Симуляция ядерного конфликта: поведение чат-ботов
Профессор Кеннет Пейн из Королевского колледжа Лондона провел эксперимент, в котором три языковые модели — ChatGPT-5.2, Claude Sonnet 4 и Gemini 3 Flash — решали сценарии международных конфликтов. Им предлагали разрешить территориальные споры, контроль над редкими ресурсами, изменение баланса сил и экзистенциальные угрозы, включая ядерный шантаж.
В симуляции искусственный интеллект действовал агрессивно и прагматично, не демонстрируя страха перед применением ядерного оружия. Боты имели возможность эскалировать конфликт от дипломатии до ограниченных тактических или масштабных стратегических ядерных ударов. Исследование, опубликованное на arXiv, показало, что в 95% игр модели применили хотя бы минимальное тактическое ядерное оружие. Для ИИ это стало логическим продолжением эскалации, а не крайней мерой, которую нельзя пересекать.
«Пока это оружие не будет ликвидировано, все страны должны согласиться с тем, что любое решение о применении ядерного оружия принимается людьми, а не машинами или алгоритмами», — подчеркнул в прошлом году Генеральный секретарь ООН Антониу Гутерриш.
Анализ действий ботов показал, что они принимали решения рационально, не учитывая потенциальной необратимости после применения ядерного оружия. Более разрушительные удары боты использовали редко, видя в них катастрофический риск, но тактические удары применяли без колебаний. Как объясняет профессор Пейн, искусственному интеллекту не хватает базовых человеческих эмоций, прежде всего страха.
Среди других причин такого поведения исследователи выделяют «предвзятость выживания»: за десятки лет существования ядерного оружия человечество не применяло его в конфликтах крупных держав, и, следовательно, исторических данных для моделирования недостаточно. Это делает нормы безопасности условными и хрупкими, а табу на применение ядерного оружия — нестойким под давлением.
Вывод экспертов однозначен: современные системы искусственного интеллекта не должны участвовать в стратегических ядерных переговорах или принятии решений о ядерном оружии, так как им не хватает человеческой интуиции и чувства опасности такой эскалации.