Tech-Bosse warnen UN-Sicherheitsrat vor KI

Reden von Altman und Amodei Tech-Bosse warnen UN-Sicherheitsrat vor KI

Stand: 24.09.2026 • 01:58 Uhr

Die Chefs der größten US-amerikanischen KI-Firmen OpenAI und Anthropic, Altman und Amodei, warnen weiter vor ihrer eigenen Technologie. Vor dem UN-Sicherheitsrat boten beide an, an stärkerer Regulierung mitzuwirken.

Um den Anwesenden im UN-Sicherheitsrat klarzumachen, wie schnell sich Künstliche Intelligenz (KI) entwickelt, blickt OpenAI-Chef Sam Altman ziemlich genau drei Jahre zurück. Damals sei KI "ganz ok" beim Lösen von Grundschul-Matheaufgaben gewesen. Ein Jahr später konnte sie bereits mit Oberstufenschülern mithalten.

Vergangenen Sommer erreichte die KI von OpenAI das Niveau einer Goldmedaille bei einem der renommiertesten Mathematikwettbewerbe. Heute sei sie sogar in der Lage, sogenannte Millennium-Probleme zu lösen.

Schnelle KI-Entwicklung - zu schnell, zu gefährlich?

Das Risiko, das Sam Altman sieht: "KI könnte sich so schnell weiterentwickeln, dass kein Mensch mehr folgen oder eingreifen kann, wenn nötig." Außerdem sieht der Chef von OpenAI die Gefahr einer Machtkonzentration bei einigen wenigen Unternehmen oder Ländern.

Auch Dario Amodei, Chef des KI-Unternehmens Anthropic, sieht diese Gefahren. Er warnt zusätzlich vor dem Missbrauch durch Terroristen, die mithilfe von KI biologische Waffen bauen könnten. "Bei unsachgemäßem Umgang könnte Künstliche Intelligenz zum Risiko für die gesamte Menschheit werden", warnt Amodei weiter.

Versteckte Interessen hinter den Warnungen?

Dass die großen KI-Unternehmen inzwischen selbst vor ihrer Technologie warnen, findet Silicon-Valley-Experte Tom Ford begrüßenswert. Er vermutet allerdings, dass das nicht ganz uneigennützig geschieht: "Ich nehme das denen schon ab, dass sie da ernsthafte Bedenken haben und es ein paar überraschende Ergebnisse gab, die sie transparent an die Öffentlichkeit bringen wollen", sagt Ford.

Aber: "Zum anderen wollen sie aber auch die Richtung vorgeben. Sie wollen nicht ertappt werden und dann letztlich mit rechtlichen Maßnahmen konfrontiert werden, sondern sie wollen da natürlich mitmachen und mitgestalten."

Die Regulierungsvorschläge der KI-Bosse ähneln einander. Anthropic-Chef Amodei fordert beispielsweise das Erarbeiten internationaler Standards, mit denen die Gefahr des Kontrollverlusts und des Missbrauchs von KI-Modellen getestet werden soll. "Außerdem muss es ein Meldesystem geben für KI-Vorfälle, die für die globale Sicherheit von Bedeutung sind", fordert Amodei.

Rufe nach internationaler Regulierungsbehörde

Auch wenn ihre KI-Unternehmen bereits selbst Sicherheitsmaßnahmen eingezogen hätten, seien sie bereit, mit den Regierungschefs der UN-Mitgliedsstaaten für noch strengere Regulierung zusammenzuarbeiten und das Tempo der KI-Entwicklung - wenn nötig - zu drosseln, betonen Altman und Amodei.

US-Präsident Donald Trump will das verhindern. In seiner Rede bei den Vereinten Nationen machte er deutlich, dass er die Warnungen vor Künstlicher Intelligenz, die er in Zukunft nur noch "Super-Intelligenz" nennen möchte, für Falschmeldungen mit böser Absicht hält: "Wer das KI-Rennen gewinnt, der gewinnt insgesamt. Und wir führen gerade vor China - so soll das auch bleiben."

Bei den meisten UN-Mitgliedsstaaten findet die Forderung nach globaler Regulierung von KI großen Anklang. Am Montag hatten sich bereits Regierungschefs von mehr als 20 Ländern, darunter auch Deutschland, für eine stärkere Regulierung und die Gründung einer internationalen Regulierungsbehörde ausgesprochen unter der Schirmherrschaft der Vereinten Nationen.