KI-Bericht hätte beinahe einen US-Krieg mit China ausgelöst

• Ein KI-generierter Geheimdienstbericht identifizierte die Fracht eines chinesischen Schiffs im Nahen Osten fälschlicherweise als Atomwaffenkomponenten.
• US-Militärflugzeuge waren bereits in der Luft, bevor der Fehler entdeckt wurde.
• Ein Analyst hatte einen Chatbot eingesetzt, der öffentliche und geheime Daten falsch verknüpfte.

Ein chinesisches Schiff im Nahen Osten soll Komponenten für ein Atomwaffenprogramm transportiert haben – beim US-Militär schrillten offenbar die Alarmglocken. Hochrangige Verantwortliche hätten umgehend den Befehl gegeben, das mutmasslich feindliche Schiff zu entern. Militärflugzeuge seien bereits in der Luft gewesen, als sich herausstellte, dass der Alarm auf einem KI-generierten Bericht beruhte.

Wie CNN am Freitag berichtete, soll ein Analyst einen Chatbot eingesetzt haben, der die Ladung des Schiffs falsch identifizierte. Der Mitarbeiter hatte den Chatbot zu Geheimdienstinformationen über die Fracht befragt, die vom US Special Operations Command Pacific auf Hawaii stammten. Unklar blieb, ob es sich dabei um ein kommerzielles Produkt oder um eine Entwicklung der US-Regierung handelte.

«Völlig falsch»

Der Bot verknüpfte öffentlich zugängliche Informationen mit geheimen Daten aus Regierungsbeständen und kam dadurch zu seiner folgenschweren Einschätzung über die Ladung. Anschliessend nutzte der Analyst erneut KI, um die Erkenntnisse in einen Bericht zu überführen, dem Militärverantwortliche offenbar grosses Vertrauen entgegenbrachten.

Doch der Bericht sei laut einer CNN-Quelle «völlig falsch» gewesen – und hätte dennoch «fast einen Krieg ausgelöst». Eine US-Operation gegen ein chinesisches Schiff hätte das Risiko einer Eskalation bis hin zu einem bewaffneten Konflikt zwischen den beiden Staaten bergen können.

US-Militär arbeitet täglich mit KI

Innerhalb des US-Militärs und der Geheimdienste treiben Verantwortliche den Einsatz von KI in nahezu allen Bereichen voran: von der Auswertung riesiger Datenmengen und der Auswahl militärischer Ziele bis zur Verwaltung von Budgets, Logistik und Lieferketten.

Der Vorfall verdeutlicht jedoch die erheblichen Risiken dieser leistungsstarken, neuen und bislang nur begrenzt verstandenen Technologie – insbesondere bei der Zielauswahl im Krieg, schreibt CNN. Analysten warnen seit Langem davor, dass KI zu katastrophalen Fehleinschätzungen führen könnte, wenn Staaten sich auf fehlerhafte oder manipulierte Daten stützen.

Karin Leuthold (kle), Jahrgang 1968, arbeitet seit 2005 für 20 Minuten und ist derzeit am Newsdesk tätig.