Стартап d-Matrix анонсировал инновационную память для искусственного интеллекта – 3D DRAM (3DIMC), которая, по данным компании, обеспечивает скорость вывода данных, в 10 раз превышающую возможности традиционной HBM.
Об этом сообщает ProIT
Технология 3DIMC: новый подход к цифровым вычислениям в памяти
Разработанная d-Matrix технология 3DIMC (3D In-Memory Computing) создана для существенного ускорения обработки данных в системах искусственного интеллекта. Сегодня память типа HBM (High Bandwidth Memory) широко используется в высокопроизводительных вычислениях и ИИ-системах, поскольку позволяет размещать модули один над другим для оптимизации соединения и повышения производительности. Однако именно скорость вывода данных HBM является недостаточной для современных задач, а также сопровождается высокими затратами энергии и значительной стоимостью.
В лаборатории d-Matrix уже испытывают кремниевый чип Pavehawk 3DIMC, который состоит из кристаллов памяти LPDDR5 и расположенных над ними чиплетов DIMC, соединенных через интерпозер – промежуточный слой, обеспечивающий эффективную интеграцию микросхем. Такая конструкция позволяет выполнять вычисления непосредственно в памяти, что существенно сокращает задержки и повышает пропускную способность.
Влияние на рынок ИИ-памяти и перспектива развития
Логические кристаллы DIMC оптимизированы для выполнения матрично-векторных произведений – это базовый метод в работе современных моделей ИИ, особенно трансформеров. d-Matrix утверждает, что их подход позволяет изменить правила игры на рынке памяти для искусственного интеллекта.
“Мы считаем, что будущий вывод данных ИИ зависит от переосмысления не только вычислений, но и самой памяти. Вывод информации ИИ ограничен памятью, а не только количеством операций с плавающей запятой (FLOP). Модели быстро развиваются, и традиционные системы памяти HBM становятся очень дорогими, энергоемкими и имеют ограниченную пропускную способность. 3DIMC меняет правила игры. Размещая память в трех измерениях и обеспечивая ее более тесную интеграцию с вычислительными системами, мы значительно сокращаем задержку, увеличиваем пропускную способность и открываем новые возможности повышения эффективности“, — отмечает основатель и генеральный директор d-Matrix Сид Шет.
Компания уже разрабатывает следующее поколение памяти Raptor, которая, как ожидается, также будет основана на чиплетной архитектуре. По прогнозам d-Matrix, память Raptor позволит ускорить вывод данных в 10 раз по сравнению с HBM, одновременно снизив энергопотребление на 90%. Поскольку HBM производится лишь несколькими ведущими игроками рынка – SK hynix, Samsung и Micron, а спрос и цены на эту память только растут, новая альтернатива может стать весомым аргументом для экономных пользователей ИИ.
В d-Matrix подчеркивают, что хотя 3DIMC и Raptor ориентированы на специализированные вычислительные задачи, их появление способно коренным образом изменить подход к созданию высокопроизводительных систем искусственного интеллекта, открывая новые горизонты для отрасли.
