Anthropics Ablenkungsmanöver: Ja, KI wird uns alle töten. Aber anders, als ihr denkt

Die Tech Bros behaupten, dass die KI die Menschheit auslöschen könnte. So eine lächerliche Behauptung! Die Bedrohung ist viel unmittelbarer.

A m Ende des ersten Films der Matrix-Quadrologie belehrt die KI-Software „Agent Smith“ den in einer virtuellen Welt gefangenen Menschen Morpheus, dass Menschen sich stets ausbreiteten, alle Ressourcen eines Gebietes aufbrauchten, es zerstörten und dann weiterzögen. Im Film ist der Krieg gegen die künstliche Intelligenz schon längst verloren. Die Roboter haben die Menschen in eine virtuelle Welt verbannt und nutzen ihre Körper zur Energieerzeugung. In der echten Welt steht uns diese Auseinandersetzung noch bevor.

Schon innerhalb des nächsten Jahrzehnts würden KI-Systeme die Menschheit mit einer 10-prozentigen Wahrscheinlichkeit auslöschen, wird ein Anthropic-Mitarbeiter zitiert, dessen Firma das KI-Modell Claude anbietet. Ähnlich äußerte sich OpenAI-Chef Sam Altman vor dem UN-Sicherheitsrat – seine Firma steht hinter der Anwendung ChatGPT.

Die Behauptungen sind so lächerlich, dass sie nur den narzisstischen Hirnen der Tech Bros entsprungen sein können. Und womöglich ihrer Angst davor, dass sich ihre Investor*innen demnächst fragen, warum ihre Billionen Dollar bisher noch kein funktionierendes Wirtschaftsmodell für ihre Firmen hervorgebracht haben. Tatsächlich ist ihre Software beeindruckend, aber nicht gefährlich – und nicht die Software, sondern die Techkonzerne, die sie entwickeln, sind eine Gefahr.

wochentaz

Dieser Text erschien zuerst in der wochentaz, unserer Wochenzeitung von links!

In der wochentaz geht es jede Woche um die Welt, wie sie ist – und wie sie sein könnte. Eine linke Wochenzeitung mit Stimme, Haltung und dem besonderen taz-Blick auf die Welt. Jeden Samstag neu am Kiosk und natürlich im Abo.

Große Sprachmodelle – im Alltag oft mit KI gleichgesetzt – produzieren Text. Sie tun nichts anderes. Dass aus dem Text eine Anweisung wird, die auf einem Computer oder in der physischen Welt ausgeführt wird, dafür schreiben Programmierer*innen eine ganz gewöhnliche Software. Diese braucht es sogar für den trivialsten ersten Schritt, nämlich den Text in menschenlesbarer Form auf einem Bildschirm darzustellen.

Ohne Zaun bauen, und dann warnen – hä?

Wenn die KI-Firmenchefs also behaupten, ihre KI habe einen Computer gehackt oder könnten sogar den Weltuntergang auslösen, dann bedeutet das in erster Linie: Sie haben eine Software programmiert, die diese Fähigkeiten besitzt. Sie haben außerdem eine gewöhnliche, abschaltbare Software geschrieben, die den Ausgabetext eines großen Sprachmodells scannt, als Computerbefehl interpretiert und diesen dann ausführt – sei es, um durch das Internet zu surfen, die Räder eines Autos anzutreiben oder eine Atomrakete zu starten. Das Sprachmodell selbst kann nichts davon.

Man stelle sich vor, jemand würde ein Leopardengehege ohne Zäune oder Graben bauen und anschließend atemlos herumrennen und erklären, das Gehege sei gefährlich, denn die Leoparden seien ausgebrochen und würden regelmäßig Passanten das Gesicht abfressen. Alle anderen würden sich selbstverständlich denken, das Gehege sei fehlerhaft gebaut worden und die Erbauer zu faul oder inkompetent, um es ordentlich abzusichern. Niemand würde ihnen die absurde Umkehrung abnehmen.

Eine Software, die sich selbständig macht, die nicht die erwünschten Ergebnisse liefert oder sogar Schaden anrichtet, ist ein defektes Produkt, keine Meisterleistung. Die großen KI-Firmen wie Anthropic und OpenAI produzieren in großem Stil Malware. Sie versuchen, die Verantwortung für ihre schlechten Produktionsstandards nach außen zu geben, indem sie behaupten, es ginge nicht anders. Indem sie vor einem fiktiven zukünftigen Weltuntergang warnen, versuchen sie, andere zum Handeln zu zwingen.

Tatsächlich produziert ihre Software aber nicht nur virtuelle Schäden, sondern sie bedroht die Existenz der Menschheit ganz unmittelbar. Große Sprachmodelle sind extrem ineffizient und ihr inzwischen allgegenwärtiger Einsatz verstärkt die sehr reale und gegenwärtige Klimakrise. Ihr Flächenverbrauch ist so riesig, dass ihr geplante Größe schon zum Teil damit angegeben wird, wie viele „Manhattans“ sie umfasst. Ihr Energieverbrauch ist so enorm, dass weltweit Dutzende neue fossile Kraftwerke geplant sind und ihr Wasserverbrauch bringt einige Gemeinden an ihre Grenzen.

Die Software basiert auf einem massenhaften Klau von urheberrechtlich geschützten Werken. Sie trägt zur noch rasanteren Ausbreitung von Desinformation bei und zu einer finanziellen Überdehnung des gesamten Sektors. Hier wird inzwischen auf Profite spekuliert, die mathematisch kaum möglich sind. So riskieren wir eine weltweite Wirtschaftskrise. Es gibt also sehr viele gute Gründe, sich weltweit zusammenzutun, um den Techkonzernen die Stirn zu bieten. Aber keiner von ihnen ist ein superintelligenter Roboter, der die Weltherrschaft an sich reißt.

Lalon Sander Datenjournalist

Lalon Sander ist Datenjournalist. Sein Schwerpunkt liegt in der Aufbereitung von Datensätzen zum Klimawandel.

Mads Pankow über KI Willkommen in der neuen Mittelmäßigkeit

Was bedeutet „Wahrheit“? Werden Algorithmen bald Gerichtsurteile fällen? Mads Pankow denkt in „Die wahrscheinliche Wahrheit“ über die Langzeitfolgen von KI nach.

Von Katja Kullmann

US-Kriegsminister Hegseth Musk soll „Zukunft der Kriegsführung“ miterforschen

Laut US-Kriegsminister Pete Hegseth soll der Tech-Milliardär Elon Musk mit seinen Firmen KI und Roboter für das Militär entwickeln.

Regeln für Hochschulprüfungen Die künstliche Intelligenz schreibt sowieso mit

Nur wenige Unis haben klare Regeln für den Umgang mit Sprachmodellen. In zwei Fällen musste schon ein Gericht ran.

Von Philipp Brandstädter

10 Ausgaben für 10 Euro Die Wochenzeitung mit taz-Blick

Unsere wochentaz bietet jeden Samstag Journalismus, der es nicht allen recht macht und Stimmen, die man woanders nicht hört. Jetzt zehn Wochen lang kennenlernen.

• Journalismus, der es nicht allen recht macht und Stimmen, die man woanders nicht hört
• Jeden Samstag als gedruckte Zeitung frei Haus
• Zusätzlich digitale Ausgabe inkl. Vorlesefunktion
• Mit Zukunftsteil zu Klima, Wissen & Utopien
• Mit Regionalteil „Stadtland“ für alles Wichtige zwischen Dorf und Metropole

10 Wochen für nur 10 Euro

wochentaz ausprobieren