Micron: стена памяти ИИ усугубляется, вычислительные мощности растут втрое быстрее пропускной способности HBM
Материал подготовлен искусственным интеллектом на основе нескольких источников — ссылки на оригиналы приведены ниже.
Micron заявляет, что стена памяти ИИ усугубляется: вычислительные мощности растут втрое каждые два года, а пропускная способность HBM — менее чем вдвое. Компания представила анализ на Hot Chips 2026, где также описала инновации в упаковке и техпроцессе для решения растущих тепловых ограничений. Разрыв сохраняется, даже несмотря на рост высоты стеков HBM с 4 до 16 слоёв.
Ключевые факты
- Micron заявляет, что вычислительные мощности растут втрое каждые два года, а память — менее чем вдвое.
- В типичном GPU SIP с четырьмя 12-слойными стеками HBM кремний памяти занимает около 90% всего кремния, что в 8 раз больше кремния GPU.
- В статье об обучении Llama 3 компания Meta отнесла 17% незапланированных прерываний на счёт HBM.
- HBM4 от Micron обеспечивает пропускную способность до 2800 ГБ/с, вдвое больше IO и вдвое больше каналов, чем HBM3E.
Анализ стены памяти
Архитектор Micron Рагху Срираманени представил анализ стены памяти на Hot Chips 2026. Компания утверждает, что вычислительные возможности растут втрое каждые два года, а память — менее чем вдвое. Рабочие нагрузки ИИ часто ограничены памятью, и более высокая пропускная способность HBM сдвигает кровельную кривую вверх, раскрывая большую часть пиковой производительности процессора. Micron выделяет три архитектуры памяти: 2.5D присоединённая память, 2.5D продвинутая память и DRAM с обработкой в памяти.
Проблемы масштабирования HBM
Высота стеков выросла с 4 до 16 слоёв, а путь к 20 слоям сталкивается с серьёзными тепловыми и механическими препятствиями. С ростом плотности на DRAM эффективность в пДж/бит снижается, что требует прорывных технологий техпроцесса и упаковки. Micron заявляет, что отрасли нужны продвинутые возможности D2D PHY для разгрузки GPU и поддержки заказных функций. HBM — самое сложное с точки зрения межфункционального взаимодействия решение памяти, объединяющее упаковку, техпроцесс и проектирование в форм-факторе размером с почтовую марку.
1 источник
Micron: стена памяти ИИ усугубляется, вычислительные мощности растут втрое быстрее пропускной способности HBM
