Microsoft: KI-Inferenz für eigene Produkte soll auf Maia-Beschleunigern laufen

Microsoft will eigene Angebote künftig vorwiegend auf den selbst entwickelten KI-Beschleunigern der Baureihe „Maia“ betreiben. In den eigenen Azure-Rechenzentren sollen dazu ab 2027 große Stückzahlen der selbst entwickelten Chips der dritten Maia-Generation Maia 300 laufen. Dadurch dürfte Microsoft weniger stark auf KI-Beschleuniger anderer Firmen wie Nvidia angewiesen sein.

2023 hatte Microsoft den ersten nach eigenen Vorgaben entwickelten KI-Beschleuniger Maia 100 angekündigt, Anfang 2026 folgte Maia 200 mit 10 Pflops bei FP4-Genauigkeit. Das entspricht zehn Billiarden Rechenoperationen pro Sekunde.

Maia-300-Systeme sollen bei gleicher Leistungsaufnahme rund 40 Prozent mehr Token generieren als ihre Vorgänger mit Maia 200. Jeweils 96 Maia-300-Beschleuniger sind zu einem System verschaltet. Maia 300 ist laut Microsoft speziell für die Anforderungen der eigenen KI-Angebote optimiert.

Maia 300 für Microsoft-Angebote

Maia 300 entstammt der TSMC-Fertigungstechnik N2P. Zusammen mit zwei I/O-Chiplets, vier Chiplets mit Speicher-Controllern und acht HBM4-Stacks mit je 72 GByte Kapazität sitzt Maia 300 in einem gemeinsamen Gehäuse (Package). Die acht HBM4-Stacks liefern zusammen eine Datentransferrate von rund 18 TByte/s. Jeder Maia 300 schafft laut Microsoft 6,9 Pflops bei FP8 und 13,8 Pflops bei FP4.

Je vier Maia 300 passen in einen Einschub, 24 davon in ein Pod beziehungsweise Rack. Ein solches Rack mit 96 Maia 300 soll die siebenfache Anzahl an Tokens pro Sekunde generieren wie ein Maia-200-Rack. Allerdings hat ein Maia-200-Pod nur halb so viele KI-Chips (48).

Ein Maia-300-Pod mit 96 Chips nimmt laut Microsoft bis zu 167 kW Leistung auf; das ist ähnlich viel wie bei Nvidias Vera Rubin NVL72 mit 72 KI-Beschleunigern.

Ab 2027 will Microsoft die eigenen Azure-Rechenzentren mit Maia-300-Pods bestücken, die insgesamt mehrere Gigawatt elektrischer Leistung umsetzen. Bei einer Leistungsaufnahme von knapp 1000 Watt (1 kW) pro Chip sind das mehrere Millionen Beschleunigerchips. Pro Million Maia-300-Chips muss Microsoft auch 288 Petabyte HBM4-Kapazität zukaufen. Insgesamt geht es somit um mehrere Milliarden US-Dollar an Investitionen.

Angriff auf Amazon AWS und Google Cloud

Die wichtigsten Microsoft-Azure-Konkurrenten Amazon Web Services (AWS) und Google Cloud haben jeweils schon mehrere Generationen eigener KI-Chips entwickelt, etwa AWS Inferentia und Trainium sowie Google TPU. Microsoft ist mit Maia erst seit rund drei Jahren im Rennen und vermietet in Azure bisher vorwiegend KI-Instanzen mit Nvidia-Beschleunigern.

Bei der Vorstellung von Maia 200 zum Jahresanfang hob Microsoft hervor, der Chip biete bei FP4-Daten die dreifache Rechenleistung eines AWS Trainium der dritten Generation und sei bei FP8 schneller als eine Google TPU v7. Den Maia 200 lässt Microsoft von TSMC mit deren 3-Nanometer-Fertigungstechnik N3P produzieren. Der Chip enthält 272 MByte SRAM und bindet 216 GByte HBM3e-Speicher mit insgesamt 7 TByte/s an.

Im Juni 2026 meldete Microsoft die Verfügbarkeit erster Maia-200-Instanzen für ausgewählte Pilotkunden; das Anmeldeformular funktioniert aber nicht mehr. Vermutlich sind Maia-200-Instanzen also bisher nicht allgemein verfügbar.

Laut Microsoft laufen auf Maia 200 schon mehrere produktive Workloads, darunter Copilot 365. Dabei verarbeitet Maia 200 sowohl KI-Modelle von OpenAI als auch welche von Microsoft selbst (MAI).