Стартап d-Matrix анонсував інноваційну пам’ять для штучного інтелекту – 3D DRAM (3DIMC), яка, за даними компанії, забезпечує швидкість виведення даних, що у 10 разів перевищує можливості традиційної HBM.
Про це розповідає ProIT
Технологія 3DIMC: новий підхід до цифрових обчислень у пам’яті
Розроблена d-Matrix технологія 3DIMC (3D In-Memory Computing) створена для суттєвого прискорення обробки даних у системах штучного інтелекту. Сьогодні пам’ять типу HBM (High Bandwidth Memory) широко використовується у високопродуктивних обчисленнях та ШІ-системах, оскільки дозволяє розміщувати модулі один над одним для оптимізації з’єднання та підвищення продуктивності. Однак, саме швидкість виведення даних HBM є недостатньою для сучасних задач, а також супроводжується високими витратами енергії та значною вартістю.
У лабораторії d-Matrix вже випробовують кремнієвий чип Pavehawk 3DIMC, який складається з кристалів пам’яті LPDDR5 та розташованих над ними чиплетів DIMC, з’єднаних через інтерпозер – проміжний шар, що забезпечує ефективну інтеграцію мікросхем. Така конструкція дозволяє виконувати обчислення безпосередньо у пам’яті, що істотно скорочує затримки та підвищує пропускну спроможність.
Вплив на ринок ШІ-пам’яті та перспектива розвитку
Логічні кристали DIMC оптимізовані для виконання матрично-векторних множень – це базовий метод у роботі сучасних моделей ШІ, особливо трансформерів. d-Matrix стверджує, що їхній підхід дозволяє змінити правила гри на ринку пам’яті для штучного інтелекту.
“Ми вважаємо, що майбутній вивід даних ШІ залежить від переосмислення не лише обчислень, а й самої пам’яті. Виведення інформації ШІ обмежене пам’яттю, а не лише кількістю операцій із плаваючою комою (FLOP). Моделі швидко розвиваються, і традиційні системи пам’яті HBM стають дуже дорогими, енергоємними та мають обмежену пропускну спроможність. 3DIMC змінює правила гри. Розміщуючи пам’ять у трьох вимірах та забезпечуючи її тіснішу інтеграцію з обчислювальними системами, ми значно скорочуємо затримку, збільшуємо пропускну спроможність та відкриваємо нові можливості підвищення ефективності“, — зазначає засновник та гендиректор d-Matrix Сід Шет.
Компанія вже розробляє наступне покоління пам’яті Raptor, яке, як очікується, також базуватиметься на чиплетній архітектурі. За прогнозами d-Matrix, пам’ять Raptor дозволить прискорити виведення даних у 10 разів у порівнянні з HBM, водночас знизивши енергоспоживання на 90%. Оскільки HBM виробляється лише кількома провідними гравцями ринку – SK hynix, Samsung та Micron, а попит і ціни на цю пам’ять лише зростають, нова альтернатива може стати вагомим аргументом для економних користувачів ШІ.
У d-Matrix підкреслюють, що хоча 3DIMC та Raptor орієнтовані на спеціалізовані обчислювальні завдання, їхня поява здатна докорінно змінити підхід до створення високопродуктивних систем штучного інтелекту, відкриваючи нові горизонти для галузі.
