Le passage vers des empilements HBM à 8 couches vise principalement à augmenter le volume des expéditions.

1/ Récemment, le marché du HBM évolue vers l’optimisation des performances et de l'efficacité économique de divers systèmes. 2/ NVIDIA prévoyait initialement d'intégrer un HBM4 empilé en 12 couches sur Rubin et un HBM4E empilé en 12 couches sur Rubin Ultra. Cependant, afin de résoudre les problèmes de chaleur et d'efficacité énergétique liés aux produits à grande vitesse et à nombre de couches élevé, l'entreprise envisage également une solution à 8 couches. 3/ AMD et Google ont également été observés envisageant l’utilisation de différentes configurations de HBM sur une même génération de produits, en fonction des charges de travail et des gammes de prix. Cela semble destiné à maximiser le volume d’expédition de GPU en cas de pénurie de l’offre de HBM. 4/ Il ne faut pas interpréter cela comme un ralentissement de la demande de HBM. Au contraire, la tension entre l’offre et la demande de HBM est encore plus forte que prévu. En effet, même avec un ajustement des spécifications du HBM, l’augmentation du volume d’expédition des systèmes compense la réduction de la capacité mémoire par pile. 5/ NVIDIA Rubin Ultra, qui était initialement axé sur le HBM4E 12Hi, adopte désormais une réflexion intégrant à la fois le HBM4E 8Hi, le HBM4 12Hi et le HBM4 8Hi ; AMD MI455X et Google TPU v8 envisagent également plusieurs configurations, avec des versions 8Hi et 12Hi.