Технологические гиганты любят хвастаться триллионными параметрическими моделями искусственного интеллекта, которые требуют массивных и дорогих кластеров графических процессоров. Однако стартап Fastino выбирает другой подход.
Об этом сообщает ProIT
Компания из Пало-Альто утверждает, что изобрела новый вид архитектуры моделей ИИ, специально созданных для конкретных задач и обладающих небольшими размерами. Модели настолько компактны, что их обучают на недорогих игровых графических процессорах стоимостью менее $100,000 в сумме, сообщает Fastino.
Этот метод привлекает внимание. Fastino привлек $17.5 миллиона начального финансирования, возглавляемого Khosla Ventures, который известен как первый венчурный инвестор OpenAI. На сегодняшний день общая сумма финансирования стартапа составляет почти $25 миллионов. В ноябре прошлого года компания привлекла $7 миллионов в начальном раунде, возглавляемом венчурной компанией Microsoft M12 и Insight Partners.
“Наши модели быстрее, точнее и стоят гораздо меньше для обучения, при этом превосходят флагманские модели в выполнении конкретных задач”, — отмечает Аш Льюис, CEO и соучредитель Fastino.
Fastino разработал набор малых моделей, которые продает предприятиям. Каждая модель ориентирована на конкретную задачу, которая может быть необходима компании, например, редактирование конфиденциальных данных или суммирование корпоративных документов.
Fastino пока не раскрывает ранние показатели или пользователей, но утверждает, что его производительность впечатляет первых пользователей. Например, благодаря небольшим размерам, его модели могут предоставить полный ответ в одном токене. Льюис рассказал, что технология позволяет предоставить детальный ответ мгновенно за несколько миллисекунд.
Все еще рано говорить, сработает ли подход Fastino. Рынок предпринимательского ИИ переполнен компаниями, такими как Cohere и Databricks, которые также предлагают решения, отличающиеся в выполнении определенных задач. Кроме того, предприятия, ориентированные на модели SATA, включая Anthropic и Mistral, также предлагают компактные модели. Не секрет, что будущее генеративного ИИ для предприятий, вероятно, заключается в меньших, более сфокусированных языковых моделях.
Время покажет, но ранняя поддержка от Khosla, безусловно, не помешает. В настоящее время Fastino сосредоточен на формировании команды по разработке передового ИИ. Компания нацелена на исследователей в ведущих лабораториях ИИ, которые не стремятся создать самую большую модель или побить рекорды.
“Наша стратегия найма очень ориентирована на исследователей, которые могут иметь контрсистемное мышление относительно того, как сейчас строятся языковые модели”, — отмечает Льюис.