Колишній дослідник з безпеки OpenAI Стівен Адлер висловив серйозні побоювання щодо темпів розвитку штучного інтелекту (ШІ), зазначивши, що він «дуже стурбований» цим процесом і вважає, що індустрія робить «дуже ризиковану ставку» на цю технологію.
Про це розповідає ProIT
Побоювання щодо штучного загального інтелекту
Адлер висловив занепокоєння з приводу компаній, які прагнуть швидко розвивати штучний загальний інтелект (AGI), терміна, що описує системи, які можуть відповідати або перевершувати людей за будь-яким інтелектуальним завданням. Після свого виходу з OpenAI у листопаді, він поділився своїми думками в серії постів на платформі X, зауваживши, що його досвід у компанії був «божевільною подорожжю» і що йому не вистачатиме «багатьох її аспектів».
Однак, за його словами, розвиток технології відбувається настільки швидко, що це викликає сумніви щодо майбутнього людства. «Я справді стурбований темпом розвитку ШІ в ці дні», — зазначив він. «Коли я задумуюсь, де виростити майбутню сім’ю або скільки заощадити на пенсію, я не можу не замислитися: чи дійсно людство доживе до цього моменту?»
Небезпечний ризик у гонці AGI
Деякі експерти, такі як лауреат Нобелівської премії Джеффрі Хінтон, висловлюють страх, що потужні системи ШІ можуть вийти з-під контролю людей, що може призвести до катастрофічних наслідків. Водночас інші фахівці, зокрема головний науковець AI компанії Meta Ян Лекун, зменшують ці загрози, стверджуючи, що ШІ може «насправді врятувати людство від вимирання».
На думку Адлера, розвиток AGI, який є основною метою OpenAI, є «дуже ризикованою ставкою з великими втратами». Він зауважив, що жодна дослідницька лабораторія не має рішення для вирішення питання узгодженості ШІ з людськими цінностями та що індустрія може рухатися занадто швидко, щоб знайти таке рішення. «Чим швидше ми рухаємося, тим менш ймовірно, що хто-небудь зможе знайти рішення вчасно», — додав Адлер.
Його пости в X з’явилися на фоні новин про те, що китайська компанія DeepSeek, яка також прагне розвивати AGI, сколихнула американську технологічну індустрію, представивши модель, що конкурує з технологією OpenAI, незважаючи на здавалося б менші ресурси.
Адлер також попередив, що індустрія здається «застряглою в дуже поганому рівновазі», підкресливши необхідність «реальних норм безпеки». «Навіть якщо лабораторія справді хоче відповідально розвивати AGI, інші можуть обійти правила, щоб наздогнати, можливо, катастрофічно.»
Адлер та OpenAI були запрошені для коментаря.