Kaliforniens Gouverneur lässt Kill Switch für KIs prüfen

Der Gouverneur des US-Bundesstaats Kalifornien, Gavin Newsom, hat eine neue Executive Order erlassen, in der er weitere Sicherheitsmechanismen für KI-Systeme bis zu bestimmten Stichtagen einfordert. Sie baut auf bereits bestehende KI-Gesetze des Bundesstaats auf.

So soll die Government Operations Agency in Absprache mit dem Governor’s Office of Emergency Services bis zum 16. November 2026 ein Empfehlungspapier an Gavin Newsom einreichen. Darin sollen sie laut der Executive Order die technische Machbarkeit und potenzielle Wirksamkeit von diversen Maßnahmen darlegen. Auf jeden Fall geprüft haben will der Gouverneur einen gesetzlich vorgeschriebenen „Kill Switch“ für alle Frontier Modelle, der fortlaufend von einer unabhängigen Organisation geprüft werden soll. Außerdem soll das Empfehlungspapier Vorschläge für die Aktualisierung der Kriterien machen, nach denen die KI-Firmen Sicherheitsvorfälle verpflichtend melden müssen. OpenAI hatten vor Kurzem ein eigenes Framework zur Meldung von KI-Sicherheitsvorfällen vorgestellt. Doch Selbstregulierung und staatliche Regulierung sind naturgemäß zwei sehr unterschiedliche Dinge.

Bis zum 1. Mai 2027 sollen laut der Executive Order die Regeln fertig sein, nach denen sich unabhängige KI-Prüforganisationen bewerben können und bewertet werden. Mehrere KI-Firmen hatten in den vergangenen Wochen bereits angekündigt, solche Prüfer zulassen zu wollen. Doch deren Auswahl bestimmt natürlich maßgeblich die Qualität ihrer Ergebnisse. Mutmaßlich deswegen will Kalifornien selbst festlegen, welche Qualifikation für so eine Rolle nötig ist.

Bis zum 1. Dezember 2027 soll jetzt auch die Internetseite und alles Notwendige für das Registrierungsverfahren dieser unabhängigen Prüfer fertig sein. Diese Forderungen gab es bereits. Ihr Fälligkeitsdatum wurde mit der Executive Order nun jedoch vom 1. Januar 2029, das in einem vorangegangenen Gesetz festgelegt wurde, vorgezogen. Doch nicht auf ihr ursprüngliches Datum: In einer früheren Verhandlungsversion dieses vorangegangenen Gesetzes war mal der 1. Januar 2027 festgehalten gewesen.

Bereits mehrere KI-Gesetze in Kraft

Der US-Bundesstaat Kalifornien hat in den vergangenen Jahren bereits mehrere Gesetze erlassen, die die Sicherheit von KI-Systemen fördern sollen. Am 6. September 2023 wurde mit der Executive Order N-12-23 beispielsweise formuliert, wie Kalifornien künstliche Intelligenz sicher einsetzen und gleichzeitig potenzielle Risiken für Einzelpersonen, Gemeinschaften, die staatliche Verwaltung und Beschäftigte des Staates identifizieren könne.

Im Jahr 2025 wurde dann die Senate Bill 53 verabschiedet, die sich mit der Vertrauenswürdigkeit und Sicherheit sogenannter Frontier-KI befasst. Das Gesetz legte grundlegende Anforderungen für den sicheren Einsatz von künstlicher Intelligenz fest. Seine Bestimmungen traten bereits in Kraft.

Vor einigen Wochen wurde dann der Government Code „über KI“ verabschiedet, auf den sich die Executive Order wiederholt bezieht (Bill No. 1405). Er enthält Regularien für die Zertifizierung unabhängiger Prüfstellen, die über ausreichende technische Fachkenntnisse verfügen, um KIs objektiv auf Sicherheitsrisiken hin zu überprüfen und Empfehlungen zum Umgang mit den Risiken auszusprechen.

Versteckter Seitenhieb Richtung Trump

Die gerade verabschiedete Executive Order enthält auch einen versteckten und einen offenen Seitenhieb Richtung Präsident Trump. In der Präamble betont die Order, dass Kalifornien 32 der 50 am besten gelisteten privaten KI-Firmen bei sich habe, obwohl kein anderer US-Bundesstaat Techfirmen so stark reguliere. Weniger versteckt ist dann die Ansage: Kalifornien erlasse diese Executive Order auch in Anbetracht dessen, „dass Kalifornien – sofern keine Maßnahmen auf Bundesebene ergriffen werden, was bedauerlicherweise aufgrund mangelnder Führungsstärke des Präsidenten und der Kongressführer nicht zu erwarten ist – weiterhin eine Vorreiterrolle einnehmen wird, indem es Maßnahmen zur raschen Umsetzung unserer bestehenden Gesetze im Bereich der KI-Sicherheit und -Risiken ergreift“.

US-Präsident Trump hatte zuvor Forderungen nach einer Verlangsamung der KI-Entwicklung schroff zurückgewiesen und erklärt, KI brauche keine Regulierung, sondern nur einen starken Präsidenten.