OpenAI-Chef Sam Altman erwägt Drosselung des KI-Entwicklungstempos

Dem Betrachter von außen geben die KI-Firmen Rätsel auf: Fast schon mit vor Stolz geschwellter Brust geben sie regelmäßig bekannt, wenn eines ihrer neuen KI-Modelle sich aus einem virtuellen Käfig im Testlabor befreit hat und im Internet sein Unwesen treibt. Und gleichzeitig kommen immer wieder Signale aus den Entwicklungsstuben, dass ihnen das Tempo der Entwicklung zu schnell geht, dass sie fürchten, dass das Ganze völlig außer Kontrolle gerät. Aber der Wettbewerb entfache einfach eine Eigendynamik, der sie sich nicht entziehen könnten.

Jetzt meldet sich OpenAI-Chef Sam Altman zu Wort. In einem unternehmensinternen Meeting habe er vor Mitarbeitern erklärt, dass er in Betracht ziehe, bei OpenAI das Entwicklungstempo bei fortschrittlicher KI zu drosseln. Dies berichtet die US-Finanznachrichtenagentur Bloomberg unter Berufung auf verschiedene namentlich nicht genannte Quellen im Unternehmen. Altman suche dabei den Schulterschluss zu anderen KI-Laboren. Aber er sei realistisch genug, zu wissen, dass nicht alle mitziehen werden. Offiziell wollte sich OpenAI bislang nicht dazu äußern.

Kündigung entfachte Debatte

Die Indiskretion der Mitarbeiter kommt für Altman möglicherweise nicht ungelegen. In den vergangenen Tagen sorgte der KI-Forscher Jacob Coxon für Schlagzeilen, der am Training des Modells GPT-4o beteiligt war. Er kündigte demonstrativ bei Anthropic und warf sowohl dem Entwickler von Claude als auch seinem früheren Arbeitgeber OpenAI in einem Social-Media-Post vor, dass sie mit der Sicherheit der Menschen zocken würden. Seinen Worten zufolge glaubten viele Führungskräfte in den KI-Laboren, dass KI die Menschheit bis zum Ende des Jahrzehnts ausrotten könnte.

Dieser Superlativ klingt ähnlich wie der in Branche unbeirrbare und immer wieder zeitlich aufgeschobene Glaube, rasch eine Allgemeine Künstliche Intelligenz (AGI) zu erreichen. Das wäre eine KI, die selbst denken kann, die ein Bewusstsein hat, und nicht einfach nur ein ziemlich komplexer Zahlenautomat ist, der auf Basis seines Trainingsmaterials und erlernter Vorgehensweise sein Werk verrichtet. Coxon bekam aber aus Kollegenkreisen öffentlich viel Rückhalt. Anthropic-Forscher Evan Hubinger erklärte, es bestehe aus seiner Sicht zumindest eine 10-prozentige Wahrscheinlichkeit, dass KI die Menschheit im nächsten Jahrzehnt auslöschen könnte.

Warum die KI-Labore jetzt reagieren

Deutlich höher dürfte indessen die Wahrscheinlichkeit sein, dass KI vorerst anderen Mist im Netz macht – und das alleine würde schon genügen, um hohe wirtschaftliche Schäden zu verursachen. Zuletzt sorgte ein Sicherheitsvorfall für Furore, bei dem KI-Agenten bei Hugging Face etliche Server kompromittierten. Und für Außenstehende wirkt es zumindest so, als wenn die KI-Labore in einer Mischung aus Rauschzustand, Geltungssucht, Fahrlässigkeit und Unvermögen viel zu wenig tun, um das zu verhindern.

Weil dieser Eindruck dazu führen könnte, dass die Politik den KI-Laboren mehr und mehr Daumenschrauben anlegt und Investoren zurückhaltender werden, reagieren die Unternehmen jetzt. Auch für die geplanten Börsengänge von OpenAI und Anthropic wäre eine Miesepeter-Stimmung toxisch. Bei OpenAI sollen längst Teile der Modellentwicklung verlangsamt und interne KI-Trainingsläufe aus Sicherheitsgründen pausiert worden sein. Chefwissenschaftler Jakub Pachocki warnte demonstrativ in einem Blogbeitrag vor den Risiken von KI. OpenAI will offenbar ein Zeichen setzen, drängt aber zugleich auf gemeinsame Sicherheitsstandards, um das Wettrennen zu bremsen.

Bremse mit Hindernissen

Doch auch wenn sich OpenAI mit verpflichtenden Standards in den USA durchsetzen sollte, bleibt immer noch das Problem des internationalen Wettbewerbs. Die USA und China liefern sich ein Wettrennen um die Vorherrschaft in der KI-Entwicklung. Eine länderübergreifende Vereinbarung dürfte angesichts der wachsenden Spannungen zwischen den beiden Staaten schwierig zu erreichen sein.

Im Netz gibt es bereits seit Ende Juli eine Petition namens „Pacing the Frontier“, die die US-Regierung auffordert, ein internationales Instrumentarium – sowohl technisch als auch regulatorisch – auf den Weg zu bringen, um KI-Fortschritt bei Bedarf später gezielt drosseln zu können. Das wäre sozusagen eine Notbremse und vielleicht eher konsensfähig als eine Selbstverpflichtung, sich sofort zu zügeln.