Multiverse Computing представила самые компактные высокопроизводительные AI-модели для устройств IoT

|
Multiverse Computing представила самые компактные высокопроизводительные AI-модели для устройств IoT

Европейский стартап в сфере искусственного интеллекта Multiverse Computing представил две чрезвычайно компактные AI-модели, которые получили названия в честь размера мозга курицы и мухи. По словам компании, эти модели — самые маленькие в мире среди высокопроизводительных, способные выполнять задачи чат-бота, распознавания речи и даже логического мышления.

Об этом сообщает ProIT

Инновационная технология сжатия CompactifAI

Главная особенность моделей — их минимальный размер благодаря уникальному алгоритму сжатия CompactifAI, вдохновленному квантовыми технологиями. Он позволяет уменьшать вес моделей без потери производительности. Основатель компании Роман Орус подчеркнул, что это не обычная технология сжатия, используемая в компьютерных науках или машинном обучении, а более тонкий и изысканный алгоритм, происходящий из квантовой физики.

«Мы можем настолько сильно сжать модель, что она поместится на устройствах. Вы можете запускать её локально — прямо на вашем iPhone или Apple Watch», — отметил Орус.

Модели предназначены для встраивания в устройства Интернета вещей (IoT), а также для работы на смартфонах, планшетах и персональных компьютерах без необходимости подключения к интернету. Multiverse Computing уже выпустила ряд сжатых версий открытых моделей, включая популярные Llama 4 Scout, Mistral Small 3.1, а недавно — и OpenAI. В ассортименте также имеется сжатая версия большой модели DeepSeek R1 Slim.

Модели SuperFly и ChickBrain: особенности и сферы применения

Самая маленькая новинка — модель SuperFly, которая является сжатой версией SmolLM2 135 от Hugging Face. Если оригинал имеет 135 млн параметров, то SuperFly — лишь 94 млн, что соотносится с размером мозга мухи. Эта модель создана для работы с ограниченными данными устройства и может быть интегрирована в бытовую технику, например, для управления стиральной машиной голосовыми командами или решения типичных вопросов пользователей. Для управления достаточно минимальных вычислительных ресурсов, включая Arduino.

Вторая модель — ChickBrain — содержит 3,2 млрд параметров и отличается более мощными возможностями, включая навыки логического мышления. Она является сжатой версией Llama 3.1 8B от Meta и может запускаться даже на MacBook без подключения к сети. По внутренним тестам Multiverse, ChickBrain даже немного превосходит оригинальную модель по результатам стандартных бенчмарков: MMLU-Pro (языковые навыки), Math 500 и GSM8K (математические задачи), GPQA Diamond (общие знания).

Отмечается, что Multiverse не ставит целью превзойти самые мощные современные AI-модели. Основной акцент — на обеспечении максимальной эффективности при минимальном объеме ресурсов, что открывает новые возможности для размещения AI непосредственно на устройствах пользователей.

Компания уже ведет переговоры с ведущими производителями устройств и электроники, среди которых Apple, Samsung, Sony и HP. Последний раунд инвестиций в размере 189 млн евро, проведенный в июне, возглавил фонд Bullhound Capital, а к нему присоединились HP Tech Ventures и Toshiba. В целом с момента основания в 2019 году Multiverse привлекла около 250 млн долларов инвестиций.

Стартап также предлагает технологию сжатия для других задач машинного обучения, таких как распознавание изображений, и уже сотрудничает с компаниями BASF, Ally, Moody’s, Bosch и другими. Кроме прямых продаж производителям, Multiverse предоставляет доступ к своим сжатым моделям через API на AWS, что позволяет разработчикам использовать их по более низким тарифам, чем у конкурентов.