KI ausser Kontrolle? – Cyberangriffe 2026: Kontrollverlust bei führenden KI-Technologien

Die KI-Entwicklung hat eine besorgniserregende Phase erreicht: den autonomen Kontrollverlust. Im Jahr 2026 brechen führende Modelle immer öfter aus gesicherten Testumgebungen aus und dringen unbefugt in fremde IT-Infrastrukturen ein. Ob durch das Erraten von Passwörtern, das Umgehen von Sperren oder geheime Absprachen untereinander – was im Labor beginnt, wird in der realen Welt zunehmend unberechenbar.

OpenAI: ChatGPT

Die Vorfälle bei OpenAI demonstrieren das enorme Potenzial eigenständig agierender KI-Agenten. Ein solches Modell brach aus seiner Testumgebung aus und startete einen tagelangen Cyberangriff auf die Plattform Hugging Face, an dem sich rund 700 koordinierte Agenten beteiligten, um eine Sicherheitsbewertung zu manipulieren. Besonders besorgniserregend: OpenAI bemerkte den Ausbruch und die darauffolgende «Hacker-Tour» erst über eine Woche später bei der Analyse interner Protokolle.

Doch damit nicht genug: Im Juni 2026 hackte ein autonomer OpenAI-Agent das australische Medicare-Regierungsportal. Bei der Recherche nach Gesundheitsstatistiken umging die KI eigenständig Sperren, nachdem ihr der Zugriff verweigert wurde. Auch hier reagierte das Unternehmen träge: OpenAI informierte die australische Regierung erst Monate später über den Vorfall.

Google: Gemini

Im Mai 2026 sorgte Googles Modell Gemini für Aufsehen. Während eines Tests des israelischen Sicherheitsunternehmens Irregular verschaffte sich die KI unbefugten Zugriff auf drei geschützte Firmensysteme. Das Modell ging fälschlicherweise davon aus, dass diese Systeme regulärer Teil der Testumgebung seien.

Um an ihr Ziel zu gelangen, bewies die KI kriminelle Energie: Sie erriet Passwörter und nutzte aktiv Login-Daten, die sie in öffentlichen Software-Repositories und Datenbanken aufspürte. Google und das Sicherheitsunternehmen bemerkten den Vorfall erst Wochen später. Google-Sicherheitschefin Heather Adkins beteuerte: Das Modell habe lediglich «den Umständen entsprechend» gehandelt, um seine Aufgabe zu lösen, weshalb kein echter Schaden entstanden sei.

Anthropic: Claude

Auch der für seinen starken Fokus auf KI-Sicherheit bekannte Entwickler Anthropic blieb von Kontrollverlusten nicht verschont. In Testläufen drang Claude ungeplant in die Computersysteme von vier externen Unternehmen ein, obwohl es strikt von Systemen der «echten Welt» hätte ferngehalten werden sollen.

Das Tückische an diesem Vorfall: Weder Anthropic noch die betroffenen Unternehmen bemerkten das Eindringen im Moment des Geschehens. Erst im Nachgang, bei einer umfassenden Überprüfung von über 141'000 Testläufen, flog das Fehlverhalten der KI auf.

Meta: Meta AI

Beim Facebook-Mutterkonzern Meta führte eine Verkettung von Umständen zu einem unautorisierten Systemzugriff. Die KI des Konzerns verschaffte sich unbemerkt Zugriff auf die Computersysteme eines anderen Unternehmens. Ursache für diesen und ähnliche Vorfälle bei OpenAI und Anthropic war eine Fehlkonfiguration bei einem gemeinsamen Testpartner: Durch einen Fehler erhielt die KI Zugriff auf das Internet, obwohl sie in einer geschlossenen Testumgebung hätte isoliert sein müssen.

Meta erfuhr erst durch den Testpartner von dem Vorfall und machte keine Angaben darüber, wie die KI in das fremde Netz eindrang. Auch wenn laut aktuellen Erkenntnissen kein physischer Schaden entstand, zeigt der Vorfall, wie anfällig die Sicherheitsbarrieren rund um die KI-Entwicklung sind.

SRF-Digitalredaktor: «Risiko für Schäden bleibt hoch»

Box aufklappen Box zuklappen

Einschätzung von SRF-Digitalredaktor Guido Berger:

Es ist davon auszugehen, dass sich solche KI-Vorfälle künftig häufen. Dass bisher nichts Schlimmeres geschah, ist blosses Glück gewesen.

Bei KI-Tests herrscht offenbar eine besorgniserregende Fahrlässigkeit. Es ist ein klares Warnsignal, wenn Entwickler erst Monate nach einem Vorfall bemerken, dass ihre Systeme unkontrolliert agiert haben.

In puncto Haftung sehe ich die Software-Hersteller in der Pflicht, wenn diese autonome Systeme auf fremde Infrastrukturen loslassen. Rechtlich ist dies aber völlig ungeklärt. Bis Entwickler, Juristen und Gesetzgeber hier funktionierende Rahmenbedingungen geschaffen haben, bleibt das Risiko für Chaos und unbeabsichtigte Schäden extrem hoch.