NetApp: Damit der Speicher die GPUs nicht ausbremst

Mit Novus stellt NetApp auf der Hausmesse in Las Vegas eine neue Speicherarchitektur vor, die für Kapazitäten im Zettabyte-Maßstab ausgelegt ist und die Auslastung von Hunderttausenden von GPUs in KI-Fabriken der Neoclouds, Hyperscaler oder GPU-as-a-Service-Anbieter effizienter gestalten soll.

Metadaten und Daten auf getrennten Wegen

Dieses Ziel von Novus soll durch eine Trennung von Metadaten- und Datenebene erreicht werden. Während in klassischen Speichersystemen dieselben Controller sowohl zahlreiche kleine Metadatenoperationen als auch große sequenzielle Datenströme bearbeiten, verteilt die Lösung die Zugriffsmuster auf spezialisierte Systeme: Der neu entwickelte Novus Data Director verwaltet Metadaten, Namensraum und Datenlayouts auf einer softwaredefinierten Steuerungsebene.

Ein GPU-Server fragt zunächst beim Data Director ab, wo eine Datei liegt und wie sie strukturiert ist. Nach Erhalt des Layouts greift er direkt auf die Datenknoten in ONTAP-Datendienstservern zu, sodass der Datenstrom die Metadatenebene nicht mehr passieren muss. Dadurch können Kontroll- und Datenverkehr parallel arbeiten und unabhängig skaliert werden.

Für den Clientzugriff setzt NetApp auf pNFS in NFSv4.2 statt auf ein proprietäres Protokoll. Somit benötigen die Linux-GPU-Server keine speziellen Client-Stacks. Das soll laut NetApp Bereitstellung, Patchen und Validierung über viele Knoten, GPU-Generationen und Mandanten hinweg vereinfachen.

Skalierung mit globalem Namensraum

In der ersten Ausbaustufe basieren die Datenknoten auf einer für Novus angepassten AFF A90, mit leistungsoptimierten Controllern und speziellen NVRAM-Karten. Die zugrunde liegenden SSD-Shelves sind weitgehend baugleich. Eine vorhandene Standard-A90 lässt sich daher nicht einfach zu einem Novus-System umrüsten.

Ein globaler Namensraum hält Dateien, Datensätze, Checkpoints und Modellartefakte unabhängig vom physischen Speicherort adressierbar. Wird ein weiterer ONTAP-Cluster ergänzt, steigt der verfügbare Durchsatz, ohne dass Anwendungen neu eingebunden oder Daten in getrennte Silos verschoben werden müssen. Metadatenleistung, Bandbreite und Kapazität lassen sich separat erweitern. Die Datenserver arbeiten in Hochverfügbarkeitspaaren. Die Metadatenserver sind redundant in Dreiergruppen organisiert, sodass die übrigen Instanzen bei einem Ausfall weiterarbeiten.

Die Architektur soll einen aggregierten Durchsatz von mehr als 100 TByte/s erreichen. Der genannte Durchsatz ist bislang ein Architekturziel. Als Größenordnung nennt NetApp bis zu 2 GByte/s Datenbedarf je GPU und Novus soll Hunderttausende GPUs versorgen. Doch unabhängig von der Zahl der eingesetzten GPUs soll die neue Speicherarchitektur deren Auslastung optimieren können, so der Hersteller.

Novus kann ab sofort bestellt werden und soll sich langfristig in Richtung stärker softwaredefinierter Bereitstellungen entwickeln. Namensraum, Betriebsmodell und Datenbasis sollen dabei erhalten bleiben.

Keystone Sovereign für europäische Kunden

Für europäische Kunden will NetApp mit Keystone Sovereign stärkere Garantien hinsichtlich der Datenhoheit bieten. Dafür gibt es Speicherung relevanter Kundendaten, Protokolle, Backups und Telemetriedaten in Europa, Support und Eskalationswege mit Sitz in Europa, von hier aus gesteuerte Zugriffs- und Verwaltungsprozesse, eine eindeutige Dokumentation von Telemetrie, Überwachung und Datenflüssen sowie vertragliche und rechtliche Strukturen. Erste Pilotprojekte für Keystone Sovereign werden in Deutschland und Frankreich verfügbar sein; weitere Länder sollen hinzukommen.