HBF : la solution au goulot d’étranglement de la mémoire ?

Investing.com - L’expansion rapide des charges de travail liées à l’intelligence artificielle crée une demande croissante en capacité mémoire et en bande passante, ouvrant la voie à une nouvelle technologie de stockage susceptible d’alléger les contraintes d’infrastructure tout en offrant une nouvelle opportunité de croissance pour le secteur de la mémoire flash NAND, selon Bernstein. 

Dans une note de recherche, Bernstein a mis en lumière le potentiel de la mémoire flash à haute bande passante (HBF), une technologie conçue pour combiner une bande passante en lecture comparable à celle de la mémoire à haute bande passante (HBM) avec une capacité huit à seize fois supérieure, à un coût par gigaoctet nettement inférieur. Cette technologie pourrait rendre l’inférence IA plus efficace en réduisant la quantité de mémoire GPU coûteuse nécessaire pour faire fonctionner des modèles de plus en plus volumineux, et en permettant aux systèmes d’IA de récupérer des informations déjà traitées plutôt que d’effectuer à répétition des calculs onéreux.

Le passage de l’entraînement de l’IA vers des charges de travail d’inférence avancée et agentique rend la capacité mémoire, la bande passante et la réutilisation des données de plus en plus importantes. Des modèles plus grands, des fenêtres de contexte plus longues et des interactions plus complexes poussent les données au-delà des limites de la HBM, ce qui accroît la demande pour la DRAM conventionnelle, la mémoire flash NAND et les disques durs.

Bernstein indique que la HBF pourrait répondre à ce défi grâce à une architecture mémoire à plusieurs niveaux, dans laquelle la HBM gère les données fréquemment consultées et sensibles à la latence, tandis que la HBF stocke les paramètres des modèles plus volumineux, les composants de modèles moins fréquemment utilisés et les données de cache clé-valeur (KV) réutilisables. Cela pourrait permettre aux fournisseurs d’infrastructure IA de faire fonctionner des modèles plus grands avec moins de GPU et de réduire les besoins en calcul, en énergie et en dépenses d’investissement.

Cette technologie pourrait également représenter une opportunité significative pour les fabricants de NAND. Bernstein estime que la HBF pourrait consommer environ 6,5 fois plus de capacité de tranches NAND par bit que la NAND conventionnelle à cellules à triple niveau (TLC), en raison de l’utilisation de mémoire flash à cellule unique (SLC) plus performante, d’une surface de silicium supplémentaire et d’exigences d’emballage avancées.

Bernstein estime que les coûts de fabrication de la HBF pourraient être environ 10 fois supérieurs à ceux des SSD d’entreprise conventionnels, selon la configuration. Toutefois, si les fabricants fixent le prix des modules HBF à des niveaux comparables à ceux de la HBM tout en offrant une capacité nettement supérieure, la technologie pourrait générer des marges brutes attractives. Dans son scénario de base, Bernstein estime des marges brutes d’environ 86,5% pour une configuration HBF à huit niveaux et de 88,9% pour une configuration à seize niveaux.

Malgré cette opportunité, Bernstein a averti que la HBF se heurte à d’importants obstacles à son adoption. La technologie ne remplace pas directement la HBM et présente des limitations en matière de latence, de bande passante en écriture, d’endurance et d’accès aux données. Elle nécessiterait également des modifications dans la conception des processeurs et des logiciels système, ainsi qu’une optimisation minutieuse du placement des données et de la gestion de la mémoire.

Une préoccupation majeure est l’absence de soutien officiel de la part de Nvidia, qui a au contraire promu des technologies alternatives telles que Storage Next et sa plateforme de stockage de contenu mémoire CMX pour répondre à la demande croissante de capacité de cache KV. Alphabet Inc Class A (NASDAQ:GOOGL), Meta Platforms Inc (NASDAQ:META), SK hynix Inc ADR (NASDAQ:SKHY) et Tenstorrent font partie des entreprises impliquées dans l’écosystème HBF, mais l’adoption plus large par l’industrie reste incertaine.

SanDisk Corporation (NASDAQ:SNDK) a fait progresser la HBF au-delà du stade conceptuel vers la standardisation et le développement initial du silicium, la société visant ses premiers échantillons de produits pour des applications d’inférence en 2027. Bernstein a indiqué que la technologie pourrait apporter un potentiel supplémentaire aux objectifs financiers de la société, bien que la HBF ne soit pas actuellement incluse dans ces objectifs.

Bernstein a maintenu une recommandation Surperformance sur SanDisk avec un objectif de cours à 3.000$. Il a également attribué une note Surperformance à Seagate Technology PLC (NASDAQ:STX), Western Digital Corporation (NASDAQ:WDC), Samsung Electronics Co Ltd (KS:005930), SK hynix et Micron, tout en attribuant une note Sous-performance à KIOXIA.

Les analystes ont indiqué que la HBF pourrait faire pour le secteur de la NAND ce que la HBM a fait pour la DRAM, en créant une catégorie de demande premium tirée par l’IA et en resserrant l’offre grâce à une consommation accrue de tranches. Toutefois, son succès commercial dépendra de l’exécution technologique, de l’adoption par les clients et de la concurrence des architectures mémoire alternatives.

Cet article a été généré et traduit avec l’aide de l’IA et revu par un rédacteur. Pour plus d’informations, consultez nos T&C.