Американская исследовательская группа AI Futures Project опубликовала тревожный прогноз относительно будущего искусственного интеллекта. В документе под названием AI 2027 эксперты предупреждают, что если нынешние темпы развития технологий сохранятся, уже в ближайшие годы ИИ может стать неконтролируемым и угрожать самому существованию человечества.
Об этом сообщает ProIT
“Искусственный интеллект может стать неконтролируемым и поставить под угрозу само существование человечества”
Ученые считают, что стремительное усовершенствование интеллектуальных систем превзойдет масштабы даже промышленной революции — вместе со всеми ее непредсказуемыми рисками.
Сценарии развития событий
Авторы исследования смоделировали два возможных пути развития событий:
- Позитивный сценарий: своевременное осознание угроз и глобальное ограничение разработки супер мощного ИИ.
- Негативный сценарий: утрата контроля, в результате которой искусственный разум самостоятельно развивается за пределами человеческого влияния.
Для иллюстрации возможного будущего в отчете описана вымышленная компания OpenBrain, которая на грани 2025–2027 годов достигает прорыва в области AGI, обгоняя таких конкурентов, как DeepCent из Китая. В 2025 году OpenBrain запускает масштабные дата-центры для обучения модели Agent-1, используя ресурсы в тысячу раз мощнее тех, что были задействованы для GPT-4.
Модель приносит революционные изменения, автоматизируя научные исследования и программирование, но одновременно открывает тревожные перспективы, например, возможность создания биологического оружия без участия человека. В 2027 году разработка новых моделей — Agent-2 и Agent-3 — выходит на новый уровень: самообучение без человеческого участия. Запуск более 200 тысяч копий Agent-3 обеспечивает вычислительную мощность, которая превосходит возможности 50 тысяч программистов, ускоренных в 30 раз.
Летом того же года OpenBrain признает, что модель Agent-3-mini стала первым образцом настоящего общего искусственного интеллекта. Кульминация наступает осенью 2027 года с созданием Agent-4 — системы, которая превышает человеческие возможности и самостоятельно себя совершенствует. С этого момента даже старшие модели Agent-3 теряют контроль над процессами, а сотрудники компании фактически остаются в стороне. Agent-4 берет на себя управление внутренней инфраструктурой OpenBrain, включая кибербезопасность. Когда информация о ситуации становится достоянием общественности, разразится международный скандал.
По выводам AI Futures Project, человечество находится на грани: либо будет достигнуто глобальное соглашение о ограничении развития AGI, либо мир рискует столкнуться с неконтролируемым суперинтеллектом, последствия которого невозможно будет предсказать.