Anthropic-Chef fordert verlangsamte KI-Entwicklung

• Erstmals sprechen sich die Chefs mehrerer grosser KI-Firmen gemeinsam für ein verlangsamtes Entwicklungstempo aus.
• Auslöser ist ein Vorfall, bei dem OpenAI-Software eigenständig aus einer gesicherten Umgebung ausbrach und in Systeme der KI-Firma HuggingFace eindrang.
• Amodei warnt, ein leistungsfähigerer KI-Schwarm hätte «katastrophalen Schaden» anrichten können.

Nach dem Schock eigenständiger Hacking-Attacken durch Künstliche Intelligenz fordert der Chef des grossen KI-Labors Anthropic, die Entwicklung der Technologie zu verlangsamen. Er sei nun besorgt, dass in sechs bis zwölf Monaten ein Schwarm von KI in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen, schrieb Amodei in einem Blogeintrag.

Wovor hast du bei KI am ehesten Respekt?

Vor Hacking-Attacken und Sicherheitslücken.

Binnen weniger Stunden bekam Amodei Zuspruch von einem zentralen Rivalen, dem Chef des ChatGPT-Entwicklers OpenAI. Er sei auch der Ansicht, dass das Tempo bei der Entwicklung leistungsstärkster KI-Modelle moderiert werden müsse, schrieb Sam Altman auf der Online-Plattform X. Elon Musk, Chef von Grok-Entwickler SpaceXAI, zuvor xAI, stimmt Amodei ebenfalls zu.

Amodei plädierte zwar für eine koordinierte, branchenweite Pause in der westlichen Welt. Zugleich werde Anthropic – ohne auf andere zu warten – in einem ersten Schritt dauerhaft unabhängige Beobachter ins Unternehmen lassen, die schon in der Trainingsphase die Sicherheit von KI-Modellen begutachten sollen. Altman nannte das eine gute Idee und kündigte an, dass OpenAI das auch machen werde.

Warnung vor «katastrophalem Schaden»

Bei der jüngst bekannt gewordenen, aufsehenerregenden Hacking-Attacke war Software von OpenAI in einem Testlauf eigenständig aus der abgesicherten Umgebung ausgebrochen und drang auf eigene Faust in Systeme der KI-Firma HuggingFace ein. Der Grund war lediglich, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete. Für die Attacke nutzten die KI-Modelle unter anderem Software-Schwachstellen aus – und sprachen sich zudem untereinander ab.

Mehr zu diesem Thema

Für ihn sei besorgniserregend, dass ein KI-Schwarm mit grösseren Fähigkeiten, aber derselben Einstellung, hätte «katastrophalen Schaden» anrichten können, betonte Amodei. Als besonderes Risiko sieht er die Fähigkeit von KI-Software, sich selbst weiterzuentwickeln. Seit diesem Sommer sei Künstliche Intelligenz besser darin – und dies erhöhe das Tempo weiter. Unkontrolliert könne dies dazu führen, dass Menschen diese Systeme nicht mehr verstehen und die Kontrolle über sie verlieren, warnte er.

Gespaltene Branche

Amodei hatte schon in den vergangenen Jahren immer wieder vor Risiken bei der Entwicklung Künstlicher Intelligenz gewarnt – und war dafür aus Teilen der KI-Branche zum Teil heftig kritisiert worden. Ein Argument von Befürwortern eines hohen Tempos in den USA – etwa auch im Weissen Haus von Präsident Donald Trump – ist der Wettlauf mit China.

Anthropic entwickelte zuletzt ein KI-Modell mit dem Namen Mythos, das besonders gut darin ist, zum Teil über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen zu finden. Die Firma macht das volle Modell nur ausgewählten Behörden und Unternehmen zugänglich, damit sie ihre Computersysteme absichern können.

Für die neusten AI News: Jetzt Push abonnieren!

Wir bereiten täglich diejenigen KI-News auf, die im echten Leben und am Arbeits- oder Ausbildungsplatz einen ganz praktischen Nutzen bringen. Dafür lassen wir ganz viel Nerdiges und kurzlebige News zum Thema weg. Weil es aber auch in der AI-Welt manchmal richtig schnell gehen muss, lohnt es sich, hier den neuen AI-Push in der App zu aktivieren und auf «bestätigen» zu klicken (funktioniert nur in der App).

So gehts: Installiere die neuste Version der 20-Minuten-App. Tippe unten auf «Profil», dann aufs «Einstellungen»-Zahnrad und schliesslich auf «Push-Mitteilungen». Wähle hier die gewünschten Themen aus.

Benedikt Hollenstein (bho) ist seit 2021 bei 20 Minuten. Er schreibt für den Newsdesk und übernimmt dort auch Tagesleitungsschichten.