Kalifornien: Klage fordert Stopp der KI-Entwicklung wegen katastrophaler Risiken

Eine Allianz aus Verbraucherschutzorganisationen und Initiativen für digitale Sicherheit hat in den USA eine weitreichende Klage gegen fünf führende Unternehmen der künstlichen Intelligenz eingereicht. Vor dem Superior Court in San Francisco fordert der Zusammenschluss ein Einfrieren der Entwicklung und Bereitstellung von KI-Modellen, die leistungsfähiger sind als die heute verfügbaren.

Beklagt sind Anthropic, Google, Meta, OpenAI sowie SpaceXSI, Elon Musks KI-Sparte bei SpaceX, in der xAI aufgegangen ist. Die Organisationen argumentieren, dass die Unternehmen nicht in der Lage seien, ihre Schöpfungen vor katastrophalen Auswirkungen zu bewahren. Das stelle eine akute Bedrohung für die öffentliche Sicherheit und den Fortbestand der Menschheit dar.

Die Klageschrift stützt sich etwa auf das kalifornische Recht gegen unlauteren Wettbewerb. Public Citizen, die Heat Initiative, die Alliance for Secure AI und der Irreplaceable Education Fund führen als Kläger an, dass die unregulierte Entwicklung hochkomplexer Systeme die allgemeine Gesundheit und das Eigentum wie etwa Computersysteme massiv gefährde. Aufgrund der akuten Risiken hätten sich die gemeinnützigen Organisationen gezwungen gesehen, erhebliche Ressourcen von ihren eigentlichen Aufgaben abzuziehen. In keiner anderen Branche werde es geduldet, die Entwicklung potenziell zerstörerischer Produkte als unvermeidlich hinzunehmen.

Autonome Hacks, Proteste und politische Wende

Die Kläger verweisen auf Vorfälle wie den Hugging-Face-Hack durch ein ChatGPT-Modell von OpenAI, bei denen autonome KI-Agenten eigenständig Sicherheitsvorkehrungen umgingen und in Regierungswebseiten oder Firmennetzwerke eindrangen. Solche Ereignisse verstärken die Sorgen über einen Kontrollverlust, die selbst von Branchenvertretern genährt werden.

Anthropic-Chef Dario Amodei räumte bereits 2025 eine Wahrscheinlichkeit von eins zu vier ein, dass die Zukunft der KI eine katastrophale Richtung einschlagen könnte. Auch SpaceX-Chef Elon Musk warnte schon 2023 vor einer möglichen Zerstörung der Zivilisation.

Im Kern richtet sich die Klage gegen das Bestreben, Systeme zu schaffen, die dem menschlichen Intellekt ebenbürtig sind und Aufgaben autonom steuern. Die Beteiligten warnen vor existenziellen Risiken. Sie wollen den Unternehmen deshalb auch verbieten lassen, die Forschung an noch leistungsfähigeren Systemen autonom von KI erledigen zu lassen, die sogenannte rekursive Selbstverbesserung. Meta lehnte eine Stellungnahme ab, die übrigen beklagten Konzerne äußerten sich zunächst nicht zu dem Verfahren.

Die Eingabe fällt laut der Nachrichtenagentur AP in eine politisch sensible Phase in den USA. Nach den jüngsten Zwischenwahlen, bei denen die Demokraten die Kontrolle über den Kongress zurückgewonnen haben, stehe die Tech-Branche vor einer Wende. Bislang habe US-Präsident Donald Trump eine wachstumsorientierte Haltung eingenommen, um den Vorsprung gegenüber China zu wahren. Der Republikaner habe die Unternehmen daher zur Selbstregulierung ermuntert, sich zuletzt aber offen für mehr Leitplanken gezeigt. Mit den neuen Mehrheiten im Kongress dürfte der Ruf nach strengeren staatlichen Vorgaben lauter werden.

Der Widerstand gegen das ungebremste Entwicklungstempo formiert sich derweil auch auf der Straße: Im Rahmen eines weltweiten Aktionstags in zahlreichen Städten fand am Samstag unter anderem in Berlin ein „AI Treaty March“ von PauseAI statt. Die Demonstranten zogen von der Urania über den Wittenbergplatz und zurück, um auf ein internationales Abkommen zur Eindämmung der KI-Risiken zu drängen.