Платформа искусственного интеллекта Clarifai анонсировала запуск нового движка для многоуровневых агентных моделей, который позволяет обрабатывать данные вдвое быстрее и на 40% дешевле. Система оптимизирована для интеграции с различными облачными платформами и моделями ИИ, а ее внедрение направлено на повышение производительности без модернизации аппаратного обеспечения.
Об этом сообщает ProIT
Оптимизация производительности для современных потребностей ИИ
По словам генерального директора Clarifai Мэтью Зайлера, достижения компании основаны на комплексе оптимизаций, включая работу с ядрами CUDA и использование передовых методов спекулятивного декодирования. Такие подходы обеспечивают значительное повышение эффективности уже имеющихся графических процессоров. Третья сторона — компания Artificial Analysis — подтвердила результаты с помощью серии тестов, которые засвидетельствовали рекордные показатели пропускной способности и минимальной задержки среди аналогичных решений в отрасли.
“Это разнообразие различных типов оптимизаций, вплоть до CUDA-ядр и передовых техник спекулятивного декодирования,” сказал генеральный директор Мэтью Зайлер. “Вы можете извлечь больше из тех же карт, в основном.”
Новый этап развития Clarifai и рынка ИИ
Clarifai, которая изначально специализировалась на распознавании изображений, постепенно перешла к управлению вычислительными ресурсами на фоне взрывного роста спроса на GPU и дата-центры. Первый релиз вычислительной платформы состоялся на мероприятии AWS re:Invent в декабре прошлого года, но теперь компания представляет первый продукт, специально ориентированный на многоуровневые агентные модели.
Запуск движка совпал с усилением конкуренции между поставщиками инфраструктуры для ИИ и появлением сделок на миллиарды долларов. Компания OpenAI уже объявила о планах инвестировать до $1 трлн в новые дата-центры, ожидая стремительного роста потребностей в вычислительных мощностях. В то же время в Clarifai уверены, что оптимизация программного обеспечения и алгоритмические инновации позволят эффективнее использовать имеющуюся инфраструктуру, уменьшая потребность в масштабном наращивании энергоемких дата-центров.
Мэтью Зайлер убежден, что улучшение алгоритмов и новые подходы к разработке программного обеспечения, такие как движок Clarifai, сыграют ключевую роль в обеспечении устойчивого развития искусственного интеллекта и сдерживании роста затрат.