Huawei packt 4096 KI-Beschleuniger in einen riesigen Server

Huawei stellt seine nächste Generation von KI-Beschleunigern schneller fertig als angenommen. Den fürs Training von KI-Modellen gedachten Ascend 960DT will die chinesische Firma bereits im ersten Quartal 2027 ausliefern. Der für Inferenz angepasste Ascend 960PR folgt voraussichtlich im dritten Quartal 2027.

Der Ascend 960DT ist der erste öffentlich bekannte Huawei-Beschleuniger mit High Bandwidth Memory (HBM). 288 GByte verteilen sich auf acht Speicherstapel. Alle zusammen kommen auf eine Übertragungsrate von 9,6 TByte/s. Fraglich ist, woher der Speicher stammt. HBM3e des chinesischen Herstellers CXMT käme in kleiner Auflage infrage.

Huawei nennt eine maximale Rechenleistung von vier Billiarden Operationen pro Sekunde (4 Petaflops) im simplen Gleitkomma-Zahlenformat FP4. Zu ganzzahligen INT-Operationen macht die Firma keinerlei Angaben.

Der Ascend 960PR verdoppelt die FP4-Rechenleistung zulasten des Speicherausbaus. Huawei nennt 192 GByte mit 2,4 TByte/s Transferrate. Einer ersten Illustration zufolge könnte hier günstigeres LPDDR-RAM anstelle von HBM zum Einsatz kommen. Dieser Wechsel ist für Inferenz branchenüblich.

4096 Beschleuniger in einem Superpod

Weil Huawei leistungsmäßig Branchengrößen wie AMD und Nvidia hinterherhinkt, skaliert das Unternehmen weiter in die Breite. Ein Atlas 960E Superpod nimmt bis zu 4096 Ascend-960-Beschleuniger auf. Er kommt so auf eine maximale Rechenleistung von 16 Exaflops und im Falle der DT-Chips auf über ein Petabyte HBM-Kapazität. Den Weg in die Breite geht Huawei schon seit der Ascend-910c-Generation.

Zum Vergleich: Eine einzelne Rubin-GPU von Nvidia schafft bis zu 50 FP4-Pflops, AMDs Instinct MI455X 40 FP4-Pflops. Auf einen dieser Beschleuniger kommen also mindestens zehn Ascend 960DT.

Details zum technischen Aufbau und der elektrischen Leistungsaufnahme verschweigt Huawei wie üblich. Fertigungsseitig ist die Firma aufgrund von Exporteinschränkungen erheblich eingeschränkt. Der chinesische Auftragsfertiger SMIC kann Chips mit 7-Nanometer-Strukturbreiten herstellen. Nvidia steht dagegen bei 3 nm, AMD sogar schon bei 2 nm.

Optische Datenverbindungen

Für die Skalierung setzt Huawei auf optische Verbindungen zwischen den Beschleunigern und Boards. Dafür befinden sich seitlich auf den Chips Engines, die optische Signale in elektrische umwandeln. Huawei will seine Beschleuniger künftig über einen Superpod hinaus skalieren. Eine Million Ascend-Chips in einem riesigen System sind das Ziel.

Neue Beschleunigergenerationen sollen künftig jährlich erscheinen. 2028 steht der Ascend 970 mit 14 FP4-Pflops und schnellerem Speicher an. Der Ascend 980 für 2029 soll die Leistung verdoppeln und mit 384 GByte Speicher bei 38,4 TByte/s Transferrate erscheinen.