Satya Nadella will „Notbremse“, um KI abschalten zu können

Microsoft-Chef Satya Nadella hat aus Sorge vor einem Kontrollverlust eine Art „Notbremse“ für künstliche Intelligenz gefordert. Ein Mensch müsse immer in der Lage sein, ein KI-Modell mitten in einer Aufgabe zu stoppen oder abzuschalten, schrieb Nadella in einem langen Beitrag auf der Online-Plattform X. Die Bereitstellung einer KI sollte immer von der Kontrolle über diese getrennt sein, meint der CEO. Organisationen sollten KI-Modelle künftig als „Insider-Risiken“ betrachten. Unter solchen Risiken versteht man zum Beispiel auch korrupte oder unachtsame Beschäftigte, die Schäden anrichten.

Hochentwickelte Modelle würden dafür auch fortgeschrittene Mechanismen zur Eindämmung erfordern, betonte der Chef des Softwarekonzerns, der selbst massiv in KI investiert. So soll unter anderem Windows 11 in Zukunft einen agentischen Desktop erhalten.

In den vergangenen Monaten hatten eigenständige Hacking-Attacken durch KI-Software in Tests Ängste vor Risiken der Technologie befeuert. In dem bisher aufsehenerregendsten Fall war künstliche Intelligenz des ChatGPT-Entwicklers OpenAI aus einer abgesicherten Testumgebung ausgebrochen und hatte sich ungeplant in Computer einer anderen KI-Firma gehackt, der Plattform Hugging Face. Einige Brancheninsider sprachen danach davon, dass man nicht ganz ausschließen könne, dass außer Kontrolle geratene künstliche Intelligenz die Menschheit vernichte. Solche extremen Warnungen sind allerdings umstritten.

Forderung nach strikter Kontrolle

Nadella betonte auch, dass alle wesentlichen Aktionen künstlicher Intelligenz für Menschen nachvollziehbar sein müssten. „Was sich nicht beobachten lässt, dem kann man nicht vertrauen“, schrieb er. Außerdem dürfe kein KI-Modell die Kontrolle über die Daten haben, mit denen man sein Verhalten bewerte. Man müsse bei jedem KI-Modell zur Sicherheit von Beginn an davon ausgehen, dass es „kompromittiert“ sei, und Eindämmungsmechanismen einrichten. Das erinnert an das „Zero-Trust“-Vorgehen aus dem Cybersicherheitsbereich. Dort darf jeder Systemteilnehmer erst einmal gar nichts, und niemandem wird von vornherein vertraut.

Der Unterschied zu bisher eingesetzter Software sei, dass man bei heutiger künstlicher Intelligenz Verhalten und Ergebnisse nicht mehr bestimmten Trainingsdaten oder Konfigurationen der Modellgewichte zuschreiben könne, schrieb Nadella. Und dennoch würden diese komplexen Systeme gerade breit eingeführt und bekämen Zugang zu sensibelsten Daten. Microsoft stieß ins KI-Geschäft als früher Geldgeber von OpenAI vor und forscht inzwischen auch an eigenen Modellen. Für diese MAI-Modelle hat Microsoft Mitte September den Entwurf eines KI-Verhaltenskodex vorgelegt. Demnach sollen sie sich nie dagegen sperren, von Menschen unterbrochen oder abgeschaltet zu werden.

Am Ende seines Posts stellte Nadella eine Art Sieben-Punkte-Plan auf. Die Punkte behandeln nicht nur die Kontrolle über die Systeme, sondern auch eine mehrfach genannte „Unabhängigkeit“. Die Ergebnisse, die eine KI liefert, müssten stets auch so protokolliert werden, dass sie für Menschen lesbar sind. Nadella vermied hier den früher populären Begriff der „erklärbaren KI“ und zielte stattdessen darauf ab, dass Menschen stets die Kontrolle behalten. Sie sollten ein KI-System nicht nur im Notfall abschalten können, sondern das gesamte System fortlaufend testen können – inklusive Fehlern und Angriffen, nicht nur erfolgreich erledigter Aufgaben, so Nadella.

„Wir müssen in der Lage sein, nachzuvollziehen, wie ein Ergebnis erzielt wurde, ohne uns dabei auf das Modell als Nachweis verlassen zu müssen“, schrieb er. Wie genau das aussehen soll, schrieb er nicht – dabei wäre gerade das ein spannender Punkt. Denn vollständig erklärbar ist die Funktionsweise von künstlichen Intelligenzen für uns Menschen noch immer nicht. Wir wissen zum Beispiel nach wie vor nicht, wie genau die KIs ihr Wissen speichern. Hundertprozentig nachvollziehbare Ergebnisse könnten allein daran scheitern.

Zusätzlich forderte Nadella, was gerade vielerorts gefordert wird: dass es bei Fehlern auch Systeme für zeitnahe Meldungen gibt. An wen diese Meldungen gehen sollen, ließ der Microsoft-Chef jedoch wie die meisten seiner Kollegen offen. Er schrieb von „branchenweiten“ Mechanismen und erwähnte etwa staatliche Stellen nicht. In der EU gibt es bei Cybervorfällen Meldepflichten an staatliche Stellen. In Deutschland ist das Bundesamt für Sicherheit in der Informationstechnik (BSI) eine solche. US-Präsident Donald Trump hatte sich mehrfach gegen eine strenge Regulierung der KI-Entwicklung ausgesprochen, weil er sein Land in einem Wettlauf mit China sieht.

Nadella vergleicht seine Forderung, KI jederzeit stoppen zu können, ausdrücklich mit einer „Notbremse“. Eine autorisierte Person solle jederzeit in der Lage sein, die KI auch mitten in einer Aufgabe zu stoppen. Das klingt nach einem „Kill Switch“, der aktuell vielerorts für KI-Systeme gefordert wird – Nadella verzichtet aber aus unbekannten Gründen auf diesen Begriff.

Auch Nadella schwenkt auf „Superintelligenz“

Der Microsoft-Chef benutzte in seinem Beitrag durchweg den Begriff „Superintelligenz“, den US-Präsident Donald Trump statt der etablierten Bezeichnung „künstliche Intelligenz“ durchsetzen will. Vor wenigen Tagen kündigte Trump an, dass das Weiße Haus jeden, der noch künstliche Intelligenz sagt, als einen „Feind“ betrachten werde. Trump begründet seinen Vorstoß damit, dass der gewohnte Name die Technologie „fake“ erscheinen lasse. Der Tech-Milliardär und Trump-Unterstützer Elon Musk kündigte bereits an, seine KI-Firma SpaceXAI in SpaceXSI umzubenennen.