Nvidia, Palantir und Cisco bauen KI-Stack für Behörden

Die umstrittenen Softwarelösungen von Palantir erhalten in Zusammenarbeit mit Nvidia und Cisco eine gemeinsame KI-Referenzarchitektur als vollständigen Hard- und Softwarestack. Der Stack soll als bevorzugte Full-Stack-Grundlage für das Palantir Sovereign AI OS dienen und einen sicheren Unterbau für sensible Daten in Palantirs Ontology bieten. Die offenen Nvidia-Nemotron-Modelle für KI-Agenten sollen dafür in Palantir Foundry und die Artificial Intelligence Platform (AIP) integriert und mit der Ontology verknüpft werden.

Nvidia und Palantir haben die Lösung gemeinsam vorgestellt; auf der AIPCon 11 soll sie ausführlicher gezeigt werden. Sie richtet sich laut Herstellern an Kunden in regulierten Umgebungen, die ihre Daten und Infrastruktur selbst kontrollieren wollen. Vordefinierte Referenzarchitekturen sollen die Bereitstellung vereinfachen. Der Stack umfasst Rechenressourcen, Netzwerk, Speicher, Sicherheitsfunktionen, Observability und KI-Workflows. Kunden sollen auf dieser Basis Nemotron-Modelle mit Daten aus Foundry und AIP nachtrainieren und feintunen können. Als potenzielle Kunden nennen die Hersteller Regierungen sowie große Unternehmen aus Landwirtschaft, verarbeitendem Gewerbe, Pharma, Einzelhandel und Technologie.

Cisco liefert dazu in Kooperation mit Supermicro die Infrastrukturbasis seiner „Secure AI Factory with Nvidia“. Supermicro steuert luft- und flüssiggekühlte, hochdichte Rack- und GPU-Systeme bei, die Cisco validieren und über sein Infrastrukturportfolio vertreiben will. Unterstützt werden unter anderem Rack-Systeme auf Basis von Nvidia Vera Rubin NVL72 sowie HGX Rubin NVL8. Cisco nennt zudem KI-Netzwerke, Sicherheits- und Observability-Funktionen als Bestandteile der Architektur.

Die Gesamtlösung nennt sich „Sovereign AI Operating System Reference Architecture“ und soll sowohl on Premises als auch in Cloud-Umgebungen laufen. Preise nannten die Hersteller nicht.

Als souverän beworben

Der Begriff „souverän“ ist allerdings mit Vorsicht zu betrachten. Die Möglichkeit, Infrastruktur on Premises zu betreiben sowie Unternehmensdaten und Modelle unter eigener Kontrolle zu halten, ist zunächst eine technische Eigenschaft der Architektur. Daraus folgt nicht automatisch digitale Souveränität im europäischen oder deutschen Verständnis. Insbesondere die Abhängigkeit von US-amerikanischen Hard- und Softwareanbietern bleibt bestehen.

Das ist bei Palantir im deutschen Umfeld besonders relevant. Der Einsatz der Plattformen des US-Unternehmens bei Sicherheitsbehörden wird seit Jahren kontrovers diskutiert.