Досі єдиним постачальником мікросхем HBM3 для потреб NVIDIA залишалася південнокорейська компанія SK hynix, але у випадку з HBM3e конкуруюча Micron Technology почала постачати NVIDIA зразками своєї продукції до кінця липня, тому боротьба за місце на ринку в цьому сегменті пам’яті буде запеклою. До 2026 року на ринок буде готова вийти пам’ять типу HBM4, яка на рік пізніше збільшить кількість шарів з 12 до 16 штук.

Найближча перспектива в еволюції пам’яті типу HBM3e, як пояснює TrendForce – це вихід 8-шарових мікросхем, які до першого кварталу наступного року мають пройти сертифікацію NVIDIA та інших клієнтів, а потім перейти у фазу серійного виробництва. Micron Technology у цій сфері злегка випереджає SK hynix, надавши свої зразки для тестування на кілька тижнів раніше, а ось Samsung встигла зробити це лише до початку жовтня. Пам’ять типу HBM3e здатна забезпечити швидкість передачі інформації від 8 до 9,2 Гбіт/с, восьмишарові мікросхеми обсягом 24 Гбайт будуть випускатися за техпроцесами класу 1-альфа (Samsung) або 1-бета (SK hynix і Micron). Їхнє серійне виробництво до середини наступного року налагодять усі три компанії, але дві останні розраховують це зробити до початку другого кварталу.

Багато в чому цей графік визначатиме ритмічність виходу нових прискорювачів обчислень NVIDIA. У наступному році компанія налагодить постачання прискорювачів H200 із шістьма мікросхемами HBM3e, до кінця того ж року вийдуть прискорювачі B100 вже з вісьмома мікросхемами HBM3e. Принагідно будуть випускатися гібридні рішення з центральними процесорами з Arm-сумісною архітектурою, які називають GH200 і GB200.

Конкуруюча компанія AMD, за даними TrendForce, у 2024 році зосередиться на використанні пам’яті типу HBM3 у сімействі прискорювачів Instinct MI300, а перехід на HBM3e прибереже для пізніших Instinct MI350. Тестування пам’яті на сумісність у цьому випадку розпочнеться у другій половині 2024 року, а фактичні поставки мікросхем HBM3e для AMD стартують не раніше, ніж перший квартал 2025 року.

Представлені у другій половині минулого року прискорювачі Intel Habana Gaudi 2 обмежуються використанням шести стеків HBM2e, наступники серії Gaudi 3 до середини наступного року збільшать кількість стеків до 8 штук, але залишаться вірними використанню мікросхем HBM2e.

Пам’ять типу HBM4 буде представлена ​​лише у 2026 році, вона запропонує використання 12-нм підкладки, яка виготовлятиметься контрактними виробниками. Кількість шарів в одному стеку пам’яті варіюватиметься між 12 і 16 штуками, причому мікросхеми останнього типу з’являться на ринку не раніше 2027 року. Втім, Samsung Electronics демонструє наміри представити HBM4 вже в 2025 році, надолуживши втрачене в порівнянні з попередніми поколіннями мікросхем пам’яті цього класу.

Найближчими роками сформується і тренд на індивідуалізацію дизайну рішень із використанням пам’яті типу HBM. Зокрема деякі розробники розглядають можливість інтеграції чіпів такої пам’яті безпосередньо на кристали з обчислювальними ядрами. Принаймні, NVIDIA подібні наміри вже приписуються і саме щодо мікросхем типу HBM4.