Платформа штучного інтелекту Clarifai анонсувала запуск нового рушія для багатоступеневих агентних моделей, який дозволяє здійснювати обробку даних удвічі швидше й на 40% дешевше. Система оптимізована для інтеграції з різними хмарними платформами й моделями ШІ, а її впровадження спрямоване на підвищення продуктивності без модернізації апаратного забезпечення.
Про це розповідає ProIT
Оптимізація продуктивності для сучасних потреб ШІ
За словами генерального директора Clarifai Метью Зайлера, досягнення компанії ґрунтуються на комплексі оптимізацій, включаючи роботу з ядрами CUDA та використання передових методів спекулятивного декодування. Такі підходи забезпечують суттєве підвищення ефективності вже наявних графічних процесорів. Третя сторона — компанія Artificial Analysis — підтвердила результати за допомогою серії тестів, які засвідчили рекордні показники пропускної здатності та мінімальної затримки серед аналогічних рішень у галузі.
“It’s a variety of different types of optimizations, all the way down to CUDA kernels to advanced speculative decoding techniques,” said CEO Matthew Zeiler. “You can get more out of the same cards, basically.”
Новий етап розвитку Clarifai та ринку ШІ
Clarifai, яка спочатку спеціалізувалася на розпізнаванні зображень, поступово перейшла до управління обчислювальними ресурсами на фоні вибухового зростання попиту на GPU та дата-центри. Перший реліз обчислювальної платформи відбувся на заході AWS re:Invent у грудні минулого року, але тепер компанія презентує перший продукт, спеціально орієнтований на багатоступеневі агентні моделі.
Запуск рушія збігся з посиленням конкуренції між постачальниками інфраструктури для ШІ та появою угод на мільярди доларів. Компанія OpenAI вже оголосила про плани інвестувати до $1 трлн у нові дата-центри, очікуючи стрімкого зростання потреб у обчислювальних потужностях. Водночас у Clarifai впевнені, що оптимізація програмного забезпечення й алгоритмічні інновації дозволять ефективніше використовувати наявну інфраструктуру, зменшуючи потребу у масштабному нарощуванні енергоспоживаючих дата-центрів.
Метью Зайлер переконаний, що покращення алгоритмів і нові підходи до розробки програмного забезпечення, на кшталт рушія Clarifai, відіграють ключову роль у забезпеченні сталого розвитку штучного інтелекту й стримуванні зростання витрат.