Компанія RadixArk, що стала комерційним наступником популярного open source-інструменту SGLang, отримала оцінку близько $400 мільйонів у нещодавньому інвестиційному раунді під керівництвом Accel. Такий рівень оцінки став значним досягненням для стартапу, який було публічно анонсовано лише в серпні минулого року.
Про це розповідає ProIT
Витоки та трансформація SGLang у RadixArk
SGLang, який набув популярності серед компаній, що працюють із прискоренням тренування та впровадження AI-моделей (серед користувачів – xAI та Cursor), був створений у лабораторії UC Berkeley під керівництвом співзасновника Databricks Іона Стойки у 2023 році. Згодом частина команди SGLang перейшла до новоствореного стартапу RadixArk.
“RadixArk продовжує розвивати SGLang як open source рушій для AI-моделей. Стартап також працює над Miles — спеціалізованим фреймворком для навчання з підкріпленням, який дозволяє бізнесу підвищувати інтелектуальні можливості моделей штучного інтелекту.”
Відомо, що на ранніх етапах RadixArk залучила інвестиції і від відомих бізнес-ангелів, включно з генеральним директором Intel Ліп-Бу Таном.
Зростання ринку інфраструктури для інференсу
RadixArk та SGLang спеціалізуються на оптимізації процесу інференсу — це дозволяє AI-моделям працювати швидше та ефективніше на тих самих апаратних ресурсах. Оскільки інференс займає значну частину витрат на сервери для AI-сервісів, інструменти, що оптимізують цей процес, здатні забезпечити суттєву економію для бізнесу.
Водночас RadixArk не єдина компанія, що зробила подібний перехід від open source-проєкту до масштабного стартапу. Проєкт vLLM, що також розроблявся в лабораторії Іона Стойки, привернув увагу інвесторів і вже веде перемовини про залучення понад $160 мільйонів при оцінці близько $1 мільярда. Відомо, що великі технологічні компанії використовують vLLM для обробки інференс-навантажень, а SGLang останні пів року також стрімко набирає популярності серед розробників AI-рішень.
Засновницею та CEO RadixArk стала Інь Шен, яка раніше була ключовим учасником розробки SGLang, працювала в xAI та займала посаду наукової співробітниці у Databricks.
Хоча більшість інструментів RadixArk залишаються безкоштовними для користувачів, компанія вже запровадила плату за хостингові сервіси. Це відображає загальносвітову тенденцію, коли стартапи, які займаються інфраструктурою для інференсу, швидко залучають фінансування. Наприклад, Baseten нещодавно отримала $300 млн при оцінці $5 млрд, а Fireworks AI залучила $250 млн при оцінці $4 млрд ще в жовтні минулого року.