Сфера штучного інтелекту (ШІ) навряд чи зможе підтримувати високі темпи продуктивності в моделях, що міркують. Про це йдеться в аналітичному звіті Epoch AI — некомерційного дослідницького інституту, що спеціалізується на ШІ. Експерти попереджають, що вже за рік темпи розвитку таких моделей можуть значно сповільнитися.
Про це розповідає ProIT
Моделі, здатні до міркувань, як-от OpenAI o3, стали важливим елементом прогресу в галузі ШІ. Вони демонструють високі результати в завданнях з математики та програмування, проте вимагають значно більше обчислювальних ресурсів і часу для генерації відповідей у порівнянні з традиційними системами. Згідно з даними OpenAI, для створення o3 було використано у 10 разів більше обчислювальних потужностей, ніж для попередньої версії — o1.
Обмеження ресурсів та їх вплив на розвиток
В Epoch вважають, що значна частина обчислювальних ресурсів витрачається на навчання з підкріпленням. Цю інформацію підтвердив науковий співробітник OpenAI Ден Робертс, який зазначив, що компанія зосереджує зусилля на цьому етапі навчання, що потребує ще більших обсягів обчислень у порівнянні з початковими етапами. Водночас в Epoch підкреслюють, що існують обмеження щодо ефективного використання ресурсів для навчання з підкріпленням.
Тенденції в продуктивності ШІ
Згідно з дослідженням, приріст продуктивності моделей ШІ при стандартному навчанні наразі збільшується у 4 рази щороку, тоді як продуктивність при навчанні з підкріпленням зростає в 10 разів кожні 3–5 місяців, як зазначає автор звіту Джош Ю. Якщо ця тенденція продовжиться, галузь ШІ може стикнутися з серйозними обмеженнями вже до 2026 року. Цей прогноз базується на аналітичних даних та публічних висловлюваннях керівників компаній, які займаються розробкою ШІ.
Крім ресурсних обмежень, розвиток міркуючих моделей може уповільнитися й з інших причин. Помітно, що подальше вдосконалення цих систем вимагає дедалі більших інвестицій, а їх експлуатація стає надзвичайно дорогою. Більш того, міркуючі моделі виявляють серйозні недоліки — зокрема, вищу ймовірність так званих
“галюцинацій”
у порівнянні з традиційними ШІ-моделями.
