heise+ | Custom-HBM für KI-Beschleuniger: Nvidias proprietäres NVHBM ist nur der Anfang

Leistungsstarke KI-Beschleuniger für Rechenzentren stammen zwar von Grafikchips ab, doch die GPUs haben sich längst auch jenseits der KI-Spezialisierung weiterentwickelt. Die Servervarianten verwenden keinen GDDR-Speicher, wie er bei 3D-Grafikkarten üblich ist; stattdessen steuern sie High Bandwidth Memory (HBM) an. Dieses schafft die namensgebende hohe Datentransferrate (Bandbreite) durch einen Kniff: Ein HBM-Speicherstapel hat Tausende von Datensignalleitungen. Damit die Signalwege kurz bleiben, sitzt HBM direkt neben dem zugehörigen Chip im selben Package.