Британско-канадский компьютерный ученый, известный как «крестный отец» искусственного интеллекта (ИИ), Геофри Гинтон, прогнозирует значительные риски развития этой технологии в ближайшие три десятилетия. Он предостерегает, что скорость прогресса в области ИИ намного выше, чем ожидалось.
Об этом сообщает ProIT
Профессор Гинтон, получивший в этом году Нобелевскую премию по физике за свою работу в области ИИ, определил, что вероятность исчезновения человечества через ИИ составляет от 10% до 20% в ближайшие тридцать лет. Ранее он оценивал этот риск в 10%.
Выступая на программе BBC Radio 4's Today, Гинтон отметил: «Не совсем. 10% до 20%. Это вызвало реакцию от бывшего министра финансов Саджида Джавида, который спросил: «Вы поднимаете оценку?», на что Гинтон ответил: «Если что-то и меняется, то это никогда раньше не имели дел с существами умнее нас». Он добавил: «И сколько примеров вы знаете, когда менее разумное существо контролирует более разумное? Очень мало таких примеров. Есть пример матери и ребенка, когда эволюция приложила много усилий, чтобы позволить ребенку контролировать мать, но это, пожалуй, единственный известный мне пример».
Лондонский профессор-эмерит Университета Торонто, Гинтон отметил, что люди будут подобны детям по сравнению с интеллектом мощных систем ИИ. «Я представляю это так: представьте себя и трехлетнего ребенка. Мы будем этими трехлетними», — сказал он.
Искусственный интеллект можно определить как компьютерные системы, способные выполнять задачи, обычно требующие человеческого интеллекта. В прошлом году Гинтон бросил свою работу в Google, чтобы открыто высказываться о рисках, связанных с неконтролируемым развитием ИИ. Его основная тревога состоит в том, что «плохие актеры» могут использовать эту технологию для причинения вреда другим. Одна из ключевых беспокойств среди сторонников безопасности ИИ — возможность создания искусственного общего интеллекта, который будет умнее людей и может стать экзистенциальной угрозой, избегая человеческого контроля.
Гинтон отметил, что он не ожидал столь быстрого развития технологии, когда начинал свою работу в этой области. Он подчеркнул, что большинство экспертов считают, что в ближайшие 20 лет мы создадим ИИ, умнее людей, что является очень тревожной перспективой.
Гинтон также призвал к правительственному регулированию в области искусственного интеллекта, выражая опасения, что «невидимая рука» рынка не обеспечит безопасность. «Оставлять вопросы безопасности только на мотивации выгоды крупных компаний недостаточно. Единственным способом заставить эти корпорации проводить больше исследований безопасности является правительственное регулирование», — сказал он.
Гинтон является одним из трех «крестных родителей ИИ», получивших награду ACM AM Turing, эквивалент Нобелевской премии в области компьютерных наук, за их работу. Однако один из них, Янн ЛеКун, главный ученый по вопросам ИИ в компании Meta Марка Цукерберг, успокаивает, что ИИ может спасти человечество от вымирания.
