¿Podría HBF ser la solución al cuello de botella de la memoria?

Investing.com - La rápida expansión de las cargas de trabajo de inteligencia artificial está generando una demanda creciente de capacidad de memoria y ancho de banda, abriendo la puerta a una nueva tecnología de almacenamiento que podría aliviar las limitaciones de infraestructura y ofrecer una nueva oportunidad de crecimiento para la industria del flash NAND, según señaló Bernstein.

En un informe de análisis, Bernstein destacó el potencial del flash de alto ancho de banda (HBF, por sus siglas en inglés), una Tecnología diseñada para combinar un ancho de banda de lectura comparable al de la memoria de alto ancho de banda (HBM) con una capacidad entre ocho y 16 veces mayor a un coste por gigabyte significativamente inferior. La Tecnología podría hacer que la inferencia de IA sea más eficiente al reducir la cantidad de memoria GPU costosa necesaria para ejecutar modelos cada vez más grandes, y permitir que los sistemas de IA recuperen información previamente procesada en lugar de realizar repetidamente cálculos costosos.

El desplazamiento desde el entrenamiento de IA hacia la inferencia avanzada y las cargas de trabajo agénticas está haciendo que la capacidad de memoria, el ancho de banda y la reutilización de datos sean cada vez más importantes. Los modelos más grandes, las ventanas de contexto más amplias y las interacciones más complejas están llevando los datos más allá de los límites de la HBM, lo que amplía la demanda de DRAM convencional, flash NAND y discos duros.

Bernstein señaló que HBF podría abordar este desafío mediante una arquitectura de memoria por niveles en la que la HBM gestiona los datos de acceso frecuente y sensibles a la latencia, mientras que HBF almacena parámetros de modelos más grandes, componentes de modelos menos utilizados y datos de caché de clave-valor (KV) reutilizables. Esto podría permitir a los proveedores de infraestructura de IA ejecutar modelos más grandes con menos GPUs y reducir los requisitos de computación, energía y gasto de capital.

La Tecnología también podría crear una oportunidad significativa para los fabricantes de NAND. Bernstein estima que HBF podría consumir aproximadamente 6,5 veces más capacidad de obleas NAND por bit que el NAND de celda de triple nivel (TLC) convencional, lo que refleja el uso de flash de celda de nivel único (SLC) de mayor rendimiento, área de silicio adicional y requisitos de empaquetado avanzado.

Bernstein estima que los costes de fabricación de HBF podrían ser aproximadamente 10 veces superiores a los de los SSD empresariales convencionales, dependiendo de la configuración. Sin embargo, si los fabricantes fijan el precio de los módulos HBF a niveles comparables a los de HBM ofreciendo al mismo tiempo una capacidad sustancialmente mayor, la Tecnología podría generar márgenes brutos atractivos. Según sus hipótesis de caso base, Bernstein estima márgenes brutos de aproximadamente el 86,5% para una configuración HBF de ocho capas y del 88,9% para una configuración de 16 capas.

A pesar de la oportunidad, Bernstein advirtió que HBF se enfrenta a importantes obstáculos de adopción. La Tecnología no es un sustituto directo de HBM y presenta limitaciones en cuanto a latencia, ancho de banda de escritura, durabilidad y acceso a los datos. También requeriría cambios en los diseños de procesadores y en el software del sistema, junto con una cuidadosa optimización de la colocación de datos y la gestión de la memoria.

Una preocupación clave es la falta de respaldo formal por parte de Nvidia, que en cambio ha promovido Tecnologías alternativas como Storage Next y su plataforma de almacenamiento de contenido CMX para hacer frente a la creciente demanda de capacidad de caché KV. Alphabet Inc Class A (NASDAQ:GOOGL), Meta Platforms Inc (NASDAQ:META), SK hynix Inc ADR (NASDAQ:SKHY) y Tenstorrent se encuentran entre las empresas involucradas en el ecosistema HBF, aunque la adopción en general por parte de la industria sigue siendo incierta.

SanDisk Corporation (NASDAQ:SNDK) ha llevado HBF más allá de la fase conceptual hacia la estandarización y el desarrollo inicial de silicio, con el objetivo de presentar sus primeras muestras de producto para aplicaciones de inferencia en 2027. Bernstein señaló que la Tecnología podría proporcionar un potencial alcista adicional a los objetivos financieros de la compañía, aunque HBF no está incluido actualmente en dichos objetivos.

Bernstein mantuvo una calificación de Mejor Rendimiento para SanDisk con un precio objetivo de 3.000 dólares. También calificó a Seagate Technology PLC (NASDAQ:STX), Western Digital Corporation (NASDAQ:WDC), Samsung Electronics Co Ltd (KS:005930), SK hynix y Micron con Mejor Rendimiento, mientras que asignó a KIOXIA una calificación de Rendimiento Inferior.

Los analistas señalaron que HBF podría hacer por la industria NAND lo que HBM ha hecho por la DRAM, creando una categoría de demanda premium impulsada por la IA y ajustando la oferta mediante un mayor consumo de obleas. Sin embargo, su éxito comercial dependerá de la ejecución tecnológica, la adopción por parte de los clientes y la competencia de arquitecturas de memoria alternativas.

Este artículo ha sido generado y traducido con el apoyo de AI y revisado por un editor. Para más información, consulte nuestros T&C.