Бывший исследователь по безопасности OpenAI Стивен Адлер выразил серьезные опасения по поводу темпов развития искусственного интеллекта (ИИ), отметив, что он «очень озабочен» этим процессом и считает, что индустрия делает «очень рискованную ставку» на эту технологию.
Об этом сообщает ProIT
Опасения относительно искусственного общего интеллекта
Адлер выразил обеспокоенность по поводу компаний, стремящихся быстро развивать искусственный общий интеллект (AGI), термин, описывающий системы, которые могут отвечать или превосходить людей по любой интеллектуальной задаче. После своего выхода из OpenAI в ноябре, он поделился своими мыслями в серии постов на платформе X, заметив, что его опыт в компании был «сумасшедшим путешествием» и что ему не хватит «многих ее аспектов».
Однако, по его словам, развитие технологии происходит настолько быстро, что вызывает сомнения в будущем человечества. "Я действительно обеспокоен темпом развития ИИ в эти дни", — отметил он. «Когда я задумываюсь, где вырастить будущую семью или сколько сэкономить на пенсии, я не могу не задуматься: действительно ли человечество доживет до этого момента?»
Опасный риск в гонке AGI
Некоторые эксперты, такие как лауреат Нобелевской премии Джеффри Хинтон, выражают страх, что мощные системы ИИ могут выйти из-под контроля людей, что может привести к катастрофическим последствиям. В то же время другие специалисты, в частности, главный ученый AI компании Meta Ян Лекун, уменьшают эти угрозы, утверждая, что ИИ может «на самом деле спасти человечество от вымирания».
По мнению Адлера, развитие AGI, являющегося основной целью OpenAI, является «очень рискованной ставкой с большими потерями». Он отметил, что ни одна исследовательская лаборатория не имеет решения для решения вопроса согласованности ИИ с человеческими ценностями и что индустрия может двигаться слишком быстро, чтобы найти такое решение. «Чем быстрее мы двигаемся, тем менее вероятно, что кто-нибудь сможет найти решение вовремя», – добавил Адлер.
Его посты в X появились на фоне новостей о том, что китайская компания DeepSeek, которая также стремится развивать AGI, всколыхнула американскую технологическую индустрию, представив конкурирующую с технологией OpenAI модель, несмотря на казалось бы меньшие ресурсы.
Адлер также предупредил, что индустрия кажется "застрявшей в очень плохом равновесии", подчеркнув необходимость "реальных норм безопасности". «Даже если лаборатория действительно хочет ответственно развивать AGI, другие могут обойти правила, чтобы догнать, возможно, катастрофически».
Адлер и OpenAI были приглашены для комментариев.