Рынок электроники переживает период интенсивных изменений, сопровождающихся ростом цен на компьютеры, игровые консоли, смарт-телевизоры и другие современные гаджеты. Одной из главных причин подорожания является глобальный дефицит чипов, который усугубляется активным развитием искусственного интеллекта и ростом стоимости оперативной памяти (RAM).
Об этом сообщает ProIT
TurboQuant: новый подход от Google
В ответ на растущий спрос на эффективные решения для работы с оперативной памятью, Google анонсировал инновационный алгоритм сжатия под названием TurboQuant. По словам генерального директора Cloudflare Мэтью Принса, эта технология имеет потенциал улучшить процесс обучения и функционирования крупных языковых моделей искусственного интеллекта. TurboQuant позволяет уменьшить объем данных в кэше ключ-значение (KV), который используется для хранения контекста взаимодействия ИИ с пользователем.
«TurboQuant сжимает информацию в кэше, позволяя хранить и обрабатывать больше данных без необходимости расширять кэш, но добавление новых моделей и функций ИИ все равно будет требовать большого объема оперативной памяти».
Как работает алгоритм TurboQuant
Механизм TurboQuant можно представить как систему, которая структурирует и сжимает большие объемы данных, которые ИИ накапливает во время взаимодействия с пользователями. Например, если ИИ хранит «изображение» контекста диалогов в специальной папке, TurboQuant оптимизирует их хранение, позволяя оперировать большими объемами информации без дополнительных затрат оперативной памяти. Это упрощает процесс обработки данных и повышает эффективность использования имеющихся ресурсов в дата-центрах.
В настоящее время алгоритм находится на стадии исследований и еще не внедрен в коммерческие дата-центры. По оценкам Google, TurboQuant поможет оптимизировать потребление оперативной памяти, хотя ощутимое влияние на массовый рынок в ближайшей перспективе маловероятно. Основной преградой остается нерешенный вопрос постоянного увеличения потребности в RAM, ведь запуск новых моделей и расширение функционала продолжают поддерживать высокий спрос на этот ресурс.
В целом, появление TurboQuant свидетельствует о намерениях Google искать пути для повышения эффективности инфраструктуры ИИ и частичного решения проблемы дефицита оперативной памяти. Однако окончательный баланс между спросом и предложением на этом рынке еще не достигнут.
