d-Matrix представила 3D DRAM Raptor с пропускной способностью уровня SRAM при 1/10 энергопотребления HBM
Материал подготовлен искусственным интеллектом на основе нескольких источников — ссылки на оригиналы приведены ниже.
Компания d-Matrix представила решение 3D DRAM Raptor, заявив о пропускной способности уровня SRAM около 100 ТБ/с при энергопотреблении 0,3–0,37 пДж/бит. По данным компании, технология обеспечивает в 6–7 раз лучшую энергоэффективность по сравнению с HBM и примерно в 10–20 раз лучшее соотношение энергии и пропускной способности. Анонс прозвучал на фоне роста размеров ИИ-моделей и нагрузки на существующие технологии памяти.
Ключевые факты
- 3D DRAM Raptor обеспечивает пропускную способность около 100 ТБ/с при 0,3–0,37 пДж/бит, тогда как HBM4 даёт примерно 20 ТБ/с при 2,4–2,5 пДж/бит.
- Для HBM-решения с пропускной способностью 100 ТБ/с потребовалось бы около 1,92 кВт только на память HBM, а у Raptor мощность ввода-вывода составляет около 300 Вт.
- Raptor предлагает ёмкость 32 ГБ на один одноярусный стек — промежуточное значение между пределом масштабирования SRAM менее 2 ГБ и многостековой ёмкостью HBM.
- d-Matrix предлагает два способа компоновки 3D DRAM: DRAM поверх логики, что создаёт тепловые проблемы, и DRAM под логикой, что создаёт проблемы с подачей питания.
- По данным d-Matrix, одноярусный стек с логикой сверху при плотности мощности ниже 0,5 Вт/мм² можно надёжно охлаждать жидкостью, удерживая температуру DRAM ниже 100°C.
Архитектура Raptor
3D DRAM Raptor от d-Matrix объединяет кристаллы DRAM с вычислительной логикой для достижения характеристик пропускной способности и энергопотребления уровня SRAM. Компания описывает два подхода к компоновке: размещение стека DRAM поверх кристалла логики или размещение кристаллов DRAM под кристаллом логики. Метод с логикой сверху сталкивается с тепловой проблемой, поскольку тепло должно отводиться через термочувствительный стек DRAM. Метод с DRAM под логикой сталкивается с проблемой подачи питания, так как сотни ватт необходимо передавать через сквозные отверстия TSV в стеке DRAM. d-Matrix утверждает, что одноярусный стек с логикой сверху при плотности мощности ниже 0,5 Вт/мм² можно надёжно охлаждать жидкостью, удерживая температуру DRAM ниже 100°C.
Сравнение технологий памяти
SRAM обеспечивает чрезвычайно высокую пропускную способность в сотни ТБ/с и энергоэффективность около 0,1 пДж/бит, но ёмкость трудно масштабировать выше примерно 2 ГБ, а стоимость примерно в 100 раз выше, чем у HBM. HBM обеспечивает очень высокую ёмкость за счёт нескольких стеков в корпусе, но масштабирование пропускной способности ограничено мощностью, техпроцессом и упаковкой. Ведущее решение HBM4 обеспечивает примерно 20 ТБ/с пропускной способности, что значительно ниже 300 ТБ/с, предлагаемых решениями SRAM, такими как ускоритель Corsair. Измеренная энергоэффективность Raptor 0,3–0,37 пДж/бит в 6–7 раз лучше, чем у HBM с 2,4–2,5 пДж/бит, а d-Matrix заявляет о 10–20-кратном превосходстве по общему соотношению энергии и пропускной способности. Плотность Raptor примерно вдвое ниже, чем у HBM4, а ёмкость 32 ГБ на одноярусный стек выше, чем у SRAM, но ниже, чем у HBM.
1 источник
d-Matrix представила 3D DRAM Raptor с пропускной способностью уровня SRAM при 1/10 энергопотребления HBM
