Kommentar: Die einmal mehr besorgten „KI“-Bros

Wir lesen in jüngster Zeit viel über die besorgten „KI“-Bros ([Anmerkung der Red.:]tante schreibt „KI“ in Anführungszeichen, weil der Begriff irreführend sei, viel mit vagen Erwartungen verknüpft und nichts mit echter Intelligenz zu tun habe): Dario Amodei und Sam Altman sprechen beide davon, man müsse jetzt die Entwicklung von „Frontier KI“ verlangsamen und sogar Elon Musk stimmt zu:

Eine unheilige Allianz, die nachdenklich machen sollte, gerade wo die drei betreffenden Herren sich alle zutiefst verachten. Ist die Sorge der „KI“-Bros um die Zukunft so groß, dass sie alle Konflikte überstrahlt? Ist der aktuelle Fall um Jacob Coxon, der aus Sorge, „‚KI‘ könnte uns alle auslöschen“, seinen Job bei Anthropic hingeworfen hat, auch ein Ausdruck dieser Angst vor realen Konsequenzen? Coxon tritt sogar im US-Fernsehen auf, um zu unterstreichen, dass uns Menschen kaum Gegenmaßnahmen verbleiben, weil „die KI“ sich einfach wie ein Virus auf andere Maschinen verbreitet, wenn man sie abschalten wollte. Ist das ein reales Szenario?

Natürlich nicht. Und die Art der Berichterstattung ist leider wirklich ärgerlich schlecht.

Warnungen schon vor Jahren

Zuerst ist es natürlich wichtig zu wissen, dass Anthropic sich aus OpenAI abgespalten hat, weil OpenAI den sich abspaltenden Personen nicht Kult genug war: Offiziell beschreibt Amodei es zwar als unterschiedliche Vorstellungen über die Sicherheit von „KI“ und die Frage, wie man die Fähigkeiten von „KI“ erhöhen kann, doch schon in der Erklärung scheinen die echten Beweggründe hindurch. Anthropic wurde gegründet von Leuten aus der Effective Altruism (EA) Bubble, die wirklich glauben, dass LLMs gleichzeitig ein „existential Risk“ (also ein Risiko für den Fortbestand der Menschheit, hier war eine Sollbruchstelle zu der Sicht von OpenAI) wie auch einen neuen Gott darstellen, der entsteht, wenn man nur die „Scaling Laws“, das heißt, immer größere Systeme zu bauen, anwenden würde. Diesem System sei dann weitgehend die Kontrolle zu übergeben, damit es nahezu alle Probleme der Menschheit lösen kann.

Jürgen Geuter (im Internet bekannter als tante) hat Informatik und Philosophie studiert und arbeitet als Research Director an der Erforschung, Implementierung und Erprobung neuer Technologien. Als unabhängiger Forscher, Autor, Soziotechnologe und Speaker beschäftigt er sich mit Themen an den Schnittstellen von Technologie, Gesellschaft und Politik.

Diese Denkrichtung hatte (und hat) auch bei OpenAI immer einen gewissen Einfluss, dort herrscht allerdings immer noch eine eher pragmatische Perspektive vor: Am Ende hofft man, ein Business zu finden, bevor Sam Altman die Geschichten ausgehen. Anthropic hingegen ist deutlich mehr „on a mission“. Die Übereinstimmung ist also auch aus der Perspektive so ungewöhnlich, dass man genauer hinsehen muss. Gerade Anthropic steckt hier ja in einem Zwiespalt, der bisher immer zugunsten von mehr Entwicklung aufgelöst wurde.

Nun haben wir alle die Geschichte von „unsere magischen KI Modelle sind zu gefährlich/mächtig um sie zu releasen“ jetzt mehrfach durchgespielt. Wir alle erinnern uns, als 2019 sogar GPT-2 zu mächtig für ein öffentliches Release war. Ein Modell, das heute niemanden mehr interessiert, weil es zu schlecht für jeden üblichen Use Case ist.

Aber der Schrägstrich ist wichtig: Die Behauptung von „unser Modell ist super gefährlich“ ist vor allem die Behauptung, dass ein Modell mächtig sei. Es ist eine Werbebotschaft, mit der der Hype um LLMs am Laufen gehalten werden soll.

Denn wo steht die Branche gerade?

Anthropic und OpenAI wollen zeitnah an die Börse – auch weil es zunehmend schwierig für sie ist, noch anderes Funding für ihre hochdefizitären Unternehmen zu bekommen und da kämen die großen ETFs und Rentenfonds ihnen ganz recht.

Anthropic behauptet zwar seit einigen Monaten profitabel zu sein, doch niemand hat dazu bisher echte Zahlen gesehen: Keine der „KI“ Firmen führt eine Buchhaltung nach akzeptierten Kriterien. Stattdessen haben sie die Kennzahl ARR (Annualized Recurring Revenue) etabliert. Diese bedeutet: Die Firmen suchen sich gute 4 Wochen raus, multiplizieren diese mit 13 und behaupten, dass das das Jahr beschreiben würde. Eine auf jeden Fall kreative Form der Wirtschaftlichkeitsberechnung.

Hinzu kommt, dass Anthropic gerade hochsubventioniertes Compute von Elon Musk bekommen hat, damit Musks Colossus Datacenter – das ist das in Memphis mit den illegalen Methangasgeneratoren – ein wenig mehr ausgelastet ist. Da wundert es niemanden, dass Anthropic auf diesem Wege ein Zeitfenster finden kann, in dem die Zahlen nicht desaströs aussehen. Dadurch, dass er Anthropic Compute Ressourcen zu extrem günstigen (wahrscheinlich nicht kostendeckenden) Konditionen anbietet, übernimmt Elon Musk also quasi zumindest teilweise Anthropics Verluste.

Für die Börsengänge brauchen die „KI“-Unternehmen gerade jede positive Botschaft, um den allgemeinen Unmut über „KI“ und Rechenzentren niederzuringen: „KI“ ist unglaublich unpopulär (in einer Umfrage im März in den USA gar unbeliebter als Donald Trump und ICE). Da braucht es schon ein Wunder, um sicherzustellen, dass der Börsengang läuft wie geplant. Denn das bedeutet, dass es der größte Börsengang aller Zeiten werden muss, sonst würde es als massive Schwäche gewertet. SpaceX’ Börsengang, bei dem die Aktie nach kurzem Run erst mal hart abgestürzt ist, hat da auch Investor*innen vorsichtiger gemacht.

Die „KI“-Firmen brauchen also Presse. Presse, die sicherstellt, dass Menschen glauben, dass „KI“ – also die Systeme, die nach einem Investment und einer PR-Kampagne, wie sie noch nie eine Technologie in der Menschheitsgeschichte bekommen hat, weiterhin nicht zuverlässig funktionieren – „die Zukunft“ darstellt. Und da ist es natürlich gut, sich als „vorsichtig“ und „umsichtig“ darzustellen, um dem Vibe, den die Branche bisher vermittelt hat, entgegenzuwirken.

Aber es gibt noch ein viel direkteres ökonomisches Argument:

Die abflachende Leistungskurve

„KI“-Modelle werden nach irgendwelchen Benchmarks immer besser. Aber praktisch manifestieren sich viele dieser Verbesserungen vor allem in höheren Kosten: Die immer größer werdenden Modelle, die sich zunehmend immer wieder im Kreis aufrufen („reasoning“), verbrauchen immer mehr Ressourcen, für weitgehend ähnliche Leistungsfähigkeit. Denn jede marginale Verbesserung der Modelle kommt mit exponentiellen Kosten, nicht nur bei der Inferenz (also der Nutzung der Modelle), sondern natürlich auch beim Training: Immer größere Modelle zu trainieren, lässt die Entwicklungskosten immer weiter steigen – selbst wenn spezialisierte Chips gewisse Effizienzgewinne mit sich bringen.

Die „KI“-Unternehmen haben also explodierende Kosten für neue Versionen eines Produkts, die sich für die Nutzer*innen nicht massiv besser anfühlen, aber deutlich teurer im Betrieb sind. Das ist in einer eh schon defizitären Branche in der immer mehr Kund*innen ihre „KI“-Ausgaben immer mehr beschränken, ein Problem. Der Markt, den man sich teilen muss, expandiert nicht mehr wie gewettet, sondern zeigt Anzeichen, eventuell sogar kleiner zu werden. Gleichzeitig verteuert sich das eigene Produkt immer weiter. Und wirklich neue Ideen, die echte Qualitätssprünge ermöglichen könnten, hat aktuell keines der „AI“-Labs in der Pipeline.

In der Situation ist die abgestimmte Narration von „wir wollen lieber mal eine Zeit lang keine neuen Modelle trainieren, weil diese zu gefährlich sind“ natürlich nützlich: Man kann sich die teuren Entwicklungskosten eine Weile sparen, um die eigenen Zahlen etwas besser aussehen zu lassen, für den Börsengang. Gleichzeitig hofft man, dass Nvidia oder jemand anderes irgendwelche Effizienzgewinne findet, die das aktuelle Plateau eventuell ökonomisch tragfähig machen (die gute alte „thoughts and prayers“-Businessstrategie).