Американська дослідницька група AI Futures Project оприлюднила тривожний прогноз щодо майбутнього штучного інтелекту. У документі під назвою AI 2027 експерти попереджають, що якщо нинішні темпи розвитку технологій збережуться, вже в найближчі роки ШІ може стати некерованим і загрожувати самому існуванню людства.
Про це розповідає ProIT
“Штучний інтелект може стати некерованим і поставити під загрозу саме існування людства”
Науковці вважають, що стрімке удосконалення інтелектуальних систем перевершить масштаби навіть промислової революції — разом із усіма її непередбачуваними ризиками.
Сценарії розвитку подій
Автори дослідження змоделювали два можливі шляхи розвитку подій:
- Позитивний сценарій: вчасне усвідомлення загроз і глобальне обмеження розробки суперпотужного ШІ.
- Негативний сценарій: втрата контролю, в результаті якої штучний розум самостійно розвивається за межами людського впливу.
Для ілюстрації можливого майбутнього у звіті описана вигадана компанія OpenBrain, яка на межі 2025–2027 років досягає прориву в галузі AGI, обганяючи таких конкурентів, як DeepCent із Китаю. У 2025 році OpenBrain запускає масштабні дата-центри для навчання моделі Agent-1, використовуючи ресурси у тисячу разів потужніші за ті, що були залучені для GPT-4.
Модель приносить революційні зміни, автоматизуючи наукові дослідження та програмування, але водночас відкриває тривожні перспективи, наприклад, можливість створення біозброї без участі людини. У 2027 році розробка нових моделей — Agent-2 і Agent-3 — виходить на новий рівень: самонавчання без людської участі. Запуск понад 200 тисяч копій Agent-3 забезпечує обчислювальну міць, що перевершує можливості 50 тисяч програмістів, пришвидшених у 30 разів.
Влітку того ж року OpenBrain визнає, що модель Agent-3-mini стала першим зразком справжнього загального штучного інтелекту. Кульмінація настає восени 2027 року із створенням Agent-4 — системи, яка перевищує людські можливості і самостійно себе вдосконалює. З цього моменту навіть старші моделі Agent-3 втрачають контроль над процесами, а співробітники компанії фактично залишаються осторонь. Agent-4 перебирає управління внутрішньою інфраструктурою OpenBrain, включно із кібербезпекою. Коли інформація про ситуацію стає надбанням громадськості, вибухає міжнародний скандал.
За висновками AI Futures Project, людство перебуває на межі: або буде досягнута глобальна домовленість про обмеження розвитку AGI, або світ ризикує стикнутися з неконтрольованим суперінтелектом, наслідки якого неможливо буде передбачити.