Uptime Industries презентувала інноваційний пристрій Lemony AI — компактне рішення для локального розгортання штучного інтелекту на підприємствах. Lemony AI, розміром із сендвіч, здатен працювати з великими мовними моделями (LLM), AI-агентами та повноцінними AI-робочими процесами на одному вузлі, споживаючи лише 65 Вт електроенергії — це дорівнює зарядці ноутбука. Такі пристрої можна об’єднувати в кластери, що дозволяє нарощувати обчислювальні потужності відповідно до потреб компанії.
Про це розповідає ProIT
Основні технічні характеристики та партнерства
Як повідомив співзасновник і CEO Uptime Industries Саша Бюрле, кожен пристрій Lemony AI може підтримувати мовну модель до 75 мільярдів параметрів і розміщувати як відкриті, так і адаптовані закриті моделі. У кластері кожен вузол може працювати з різними моделями, що забезпечує гнучкість для бізнесу. Для спрощення доступу до сучасних моделей штучного інтелекту Uptime уклала партнерства з IBM та JetBrains, включаючи підтримку закритих моделей IBM.
Розвиток продукту та акцент на приватності
Ідея створення Lemony AI виникла як експеримент із розподілення мовних моделей на одноплатних комп’ютерах Raspberry Pi. Після успішних тестів співзасновники зрозуміли, що локальне розгортання моделей підвищує безпеку даних і спрощує впровадження AI для компаній, які не бажають використовувати хмарні сервіси. Особливий акцент зроблено на захисті конфіденційної інформації, що відповідає вимогам фінансового, медичного та юридичного секторів.
“Everything stays in your box,” Buehrle said. “So your documents, your files, your emails — the models are hosted in the box, the agents are running locally in the box, and nothing is leaving the box”.
Для подальшого розвитку пристрою Uptime Industries залучила $2 мільйони інвестицій на стадії seed від фонду True Ventures, Alumni Ventures, JetBrains та приватних інвесторів. Залучені кошти підуть на вдосконалення технології та розширення можливостей пристрою.
Компанія планує адаптувати власну операційну систему Lemony OS для роботи не лише на своїх мікро-AI-комп’ютерах, а й на сторонньому апаратному забезпеченні, зокрема Nvidia DGX Spark. Крім того, розробники мають намір зробити програмне забезпечення зручним для роботи команд, а не лише індивідуальних користувачів.
Вартість використання Lemony AI складає $499 на місяць, при цьому пристрій може обслуговувати до п’яти користувачів одночасно.