В пятницу правительство США объявило о разрыве сотрудничества с компанией Anthropic, которая специализируется на разработке искусственного интеллекта. Это произошло после того, как основатель компании Дарио Амодей отказался предоставлять технологии для массового слежения за гражданами США и для создания автономных боевых дронов, способных самостоятельно выбирать и уничтожать цели без участия человека. В соответствии с решением министра обороны Пита Хегсета, компанию внесли в черный список, что запрещает ей работать с Пентагоном. Президент США Трамп также призвал все федеральные ведомства немедленно прекратить использование технологий Anthropic, что ставит под угрозу контракт на сумму до 200 миллионов долларов и дальнейшее сотрудничество с другими оборонными подрядчиками. Anthropic уже заявила о намерении обжаловать это решение в суде.
Об этом сообщает ProIT
Кризис доверия и безопасности в сфере искусственного интеллекта
Последние события вокруг Anthropic стали поводом для острого обсуждения ответственности AI-компаний и необходимости государственного регулирования в сфере искусственного интеллекта. Известный физик из MIT и основатель Института будущей жизни Макс Тегмарк, который организовал открытое письмо с призывом приостановить разработку сверхмощного ИИ, считает, что Anthropic и ее конкуренты сами создали для себя такую ситуацию, годами избегая государственного контроля. По его мнению, ведущие компании — Anthropic, OpenAI, Google DeepMind и xAI — много говорили о безопасности, но не поддерживали обязательное государственное регулирование, в результате чего сейчас оказались в правовом вакууме.
«Если вы скажете, что не будете продавать бутерброды, а будете продавать AI-друзей для 11-летних детей, которые уже связаны с самоубийствами, или выпустите что-то под названием суперинтеллект, что может свергнуть правительство США, то инспектор вынужден сказать: ‘Хорошо, только не продавайте бутерброды’.”
Аналитики указывают, что компании могли бы избежать нынешних проблем, если бы еще раньше инициировали превращение своих добровольных этических обязательств в законодательные нормы. Однако лоббирование против регулирования привело к практически полной отсутствию правил в области искусственного интеллекта в США.
Международный контекст и будущее развития ИИ
Защитники AI-компаний часто апеллируют к необходимости обгонять Китай в разработке суперинтеллекта, однако, по словам Тегмарка, даже в Китае уже рассматривают запрет некоторых продуктов на основе искусственного интеллекта, опасаясь негативного влияния на молодежь и общество в целом. В то же время в американском обществе растет осознание того, что неконтролируемое развитие суперинтеллекта несет не только преимущества, но и существенные риски для национальной безопасности, подобно гонке ядерных вооружений во времена холодной войны.
Эксперты отмечают сверхбыстрый прогресс в сфере искусственного интеллекта: за несколько лет системы перешли от уровня школьника к победам на международных олимпиадах и достижению уровня университетских профессоров в ряде задач. По подсчетам ведущих исследователей, GPT-5 уже реализует более половины функционала, необходимого для создания AGI (искусственного общего интеллекта).
После инцидента с Anthropic отрасль внимательно следит за реакцией других игроков. Так, CEO OpenAI Сэм Альтман заявил о солидарности с позицией Anthropic, тогда как Google и xAI пока воздерживаются от комментариев.
Несмотря на кризис, Макс Тегмарк остается осторожным оптимистом, подчеркивая, что выход из ситуации возможен: если применить к AI-компаниям те же правила, что и к другим высокорисковым отраслям, и требовать независимых проверок перед запуском мощных систем, общество сможет получить все преимущества искусственного интеллекта без экзистенциальных угроз.