Сфера искусственного интеллекта (ИИ) вряд ли сможет поддерживать высокие темпы продуктивности в моделях, которые размышляют. Об этом говорится в аналитическом отчете Epoch AI — некоммерческого исследовательского института, специализирующегося на ИИ. Эксперты предупреждают, что уже через год темпы развития таких моделей могут значительно замедлиться.
Об этом сообщает ProIT
Модели, способные к размышлениям, такие как OpenAI o3, стали важным элементом прогресса в области ИИ. Они демонстрируют высокие результаты в задачах по математике и программированию, однако требуют значительно больше вычислительных ресурсов и времени для генерации ответов по сравнению с традиционными системами. Согласно данным OpenAI, для создания o3 было использовано в 10 раз больше вычислительных мощностей, чем для предыдущей версии — o1.
Ограничения ресурсов и их влияние на развитие
В Epoch считают, что значительная часть вычислительных ресурсов расходуется на обучение с подкреплением. Эту информацию подтвердил научный сотрудник OpenAI Ден Робертс, который отметил, что компания сосредоточивает усилия на этом этапе обучения, который требует еще больших объемов вычислений по сравнению с начальными этапами. В то же время в Epoch подчеркивают, что существуют ограничения по эффективному использованию ресурсов для обучения с подкреплением.
Тенденции в производительности ИИ
Согласно исследованию, прирост производительности моделей ИИ при стандартном обучении в настоящее время увеличивается в 4 раза ежегодно, тогда как производительность при обучении с подкреплением растет в 10 раз каждые 3–5 месяцев, как отмечает автор отчета Джош Ю. Если эта тенденция продолжится, отрасль ИИ может столкнуться с серьезными ограничениями уже к 2026 году. Этот прогноз основан на аналитических данных и публичных высказываниях руководителей компаний, занимающихся разработкой ИИ.
Кроме ресурсных ограничений, развитие размышляющих моделей может замедлиться и по другим причинам. Замечено, что дальнейшее совершенствование этих систем требует все больших инвестиций, а их эксплуатация становится чрезвычайно дорогой. Более того, размышляющие модели выявляют серьезные недостатки — в частности, более высокую вероятность так называемых
“галлюцинаций”
по сравнению с традиционными ИИ-моделями.