Технологічні гіганти люблять хизуватися трильйонними параметричними моделями штучного інтелекту, які вимагають масивних та дорогих кластерів графічних процесорів. Однак стартап Fastino обирає інший підхід.
Про це розповідає ProIT
Компанія з Пало-Альто стверджує, що винайшла новий вид архітектури моделей ШІ, що спеціально створені для конкретних завдань і мають невеликі розміри. Моделі настільки компактні, що їх навчають на недорогих ігрових графічних процесорах вартістю менше $100,000 у сумі, повідомляє Fastino.
Цей метод привертає увагу. Fastino залучив $17.5 мільйона початкового фінансування, очолюваного Khosla Ventures, який відомий як перший венчурний інвестор OpenAI. Станом на сьогодні загальна сума фінансування стартапу складає майже $25 мільйонів. У листопаді минулого року компанія залучила $7 мільйонів у початковому раунді, очолюваному венчурною компанією Microsoft M12 та Insight Partners.
“Наші моделі швидші, точніші та коштують набагато менше для навчання, при цьому перевершують флагманські моделі у виконанні конкретних завдань”, — зазначає Аш Льюїс, CEO та співзасновник Fastino.
Fastino розробив набір малих моделей, які продає підприємствам. Кожна модель орієнтована на конкретне завдання, яке може бути необхідним компанії, наприклад, редагування чутливих даних або підсумовування корпоративних документів.
Fastino поки що не розкриває ранні показники чи користувачів, але стверджує, що його продуктивність вражає ранніх користувачів. Наприклад, завдяки малим розмірам, його моделі можуть надати повну відповідь в одному токені. Льюїс розповів, що технологія дозволяє надати детальну відповідь миттєво за кілька мілісекунд.
Все ще зарано говорити, чи запрацює підхід Fastino. Ринок підприємницького ШІ переповнений компаніями, такими як Cohere та Databricks, які також пропонують рішення, що відзначаються у виконанні певних завдань. Крім того, підприємства, орієнтовані на моделі SATA, включаючи Anthropic та Mistral, також пропонують компактні моделі. Не секрет, що майбутнє генеративного ШІ для підприємств, ймовірно, полягає у менших, більш сфокусованих мовних моделях.
Час покаже, але рання підтримка від Khosla, безумовно, не завадить. Наразі Fastino зосереджений на формуванні команди з розробки передового ШІ. Компанія націлена на дослідників у провідних лабораторіях ШІ, які не прагнуть створити найбільшу модель або побити рекорди.
“Наша стратегія найму дуже орієнтована на дослідників, які можуть мати контрсистемне мислення щодо того, як зараз будуються мовні моделі”, — зазначає Льюїс.