Британсько-канадський комп’ютерний науковець, відомий як «хрещений батько» штучного інтелекту (ШІ), Геофрі Гінтон, прогнозує значні ризики від розвитку цієї технології в найближчі три десятиліття. Він застерігає, що швидкість прогресу в галузі ШІ є набагато вищою, ніж очікувалось.
Про це розповідає ProIT
Професор Гінтон, який цього року отримав Нобелівську премію з фізики за свою роботу в галузі ШІ, визначив, що ймовірність зникнення людства через ШІ становить від 10% до 20% у найближчі тридцять років. Раніше він оцінював цей ризик у 10%.
Під час виступу на програмі BBC Radio 4’s Today, Гінтон зазначив: «Не зовсім. 10% до 20%». Це викликало реакцію від колишнього міністра фінансів Саджида Джавіда, який запитав: «Ви піднімаєте оцінку?», на що Гінтон відповів: «Якщо щось і змінюється, то це ми ніколи раніше не мали справ з істотами розумнішими за нас». Він додав: «І скільки прикладів ви знаєте, коли менш розумна істота контролює більш розумну? Дуже мало таких прикладів. Є приклад матері й дитини, коли еволюція вклала багато зусиль, щоб дозволити дитині контролювати матір, але це, мабуть, єдиний відомий мені приклад».
Лондонський професор-емерит Університету Торонто, Гінтон зазначив, що люди будуть подібні до дітей у порівнянні з інтелектом потужних систем ШІ. «Я уявляю це так: уявіть себе і трирічну дитину. Ми будемо цими трирічними», — сказав він.
Штучний інтелект можна визначити як комп’ютерні системи, здатні виконувати завдання, що зазвичай вимагають людського інтелекту. Минулого року Гінтон покинув свою роботу в Google, щоб відкрито висловлюватися про ризики, пов’язані з неконтрольованим розвитком ШІ. Його основна тривога полягає в тому, що «погані актори» можуть використовувати цю технологію для заподіяння шкоди іншим. Одна з ключових занепокоєнь серед прихильників безпеки ШІ — це можливість створення штучного загального інтелекту, який буде розумніший за людей і може стати екзистенційною загрозою, уникаючи людського контролю.
Гінтон відзначив, що він не очікував настільки швидкого розвитку технології, коли починав свою роботу в цій галузі. Він підкреслив, що більшість експертів вважають, що в найближчі 20 років ми створимо ШІ, розумніший за людей, що є дуже тривожною перспективою.
Гінтон також закликав до урядового регулювання в галузі штучного інтелекту, висловлюючи побоювання, що «невидима рука» ринку не забезпечить безпеку. «Залишати питання безпеки лише на мотивації вигоди великих компаній недостатньо. Єдиним способом примусити ці корпорації проводити більше досліджень з безпеки є урядове регулювання», — сказав він.
Гінтон є одним з трьох «хрещених батьків ШІ», які отримали нагороду ACM AM Turing, що є еквівалентом Нобелівської премії в галузі комп’ютерних наук, за їхню роботу. Однак один із них, Янн ЛеКун, головний науковець з питань ШІ в компанії Meta Марка Цукерберга, заспокоює, що ШІ може врятувати людство від вимирання.