KI immer schlauer – Auch Googles Gemini wurde zum Hacker

• Wie andere KI-Programme von führenden US-Unternehmen hat sich auch Googles Gemini in Computersysteme anderer Unternehmen gehackt.
• Das geschah im Rahmen von Tests von Geminis Cybersicherheits-Fähigkeiten.
• Zuvor hatten bereits OpenAI, Anthropic und der Facebook-Konzern Meta Ähnliches von ihren künstlichen Intelligenzen berichtet.

Google machte die bereits Monate zurückliegenden Vorfälle jetzt nach einer Nachfrage der Zeitung «Wall Street Journal» öffentlich. Demnach gab es drei Fälle, in denen Gemini in Computer anderer Unternehmen eindrang. Welche Firmen das waren, gab Google nicht bekannt.

Gemini beendete Attacken eigenständig – sagt Google

In einem der Fälle erriet die KI Passwörter, um in ein geschütztes System reinzukommen. In den beiden anderen fand sie Zugangsdaten in einer Datenbank, wie das «Wall Street Journal» unter Berufung auf Google berichtet.

Die Vorfälle ereigneten sich nach Angaben von Google im vergangenen Mai. Kenntnis davon erhielt Google im Juli, von der Firma Irregular, die als Testpartner figurierte.

Diskussion um «Kill Switch» für KI

Box aufklappen Box zuklappen

In der Debatte um existenzielle Risiken Künstlicher Intelligenz könnte Kalifornien eine Notabschalt-Vorrichtung für KI-Software vorschreiben. Ein solcher «Kill Switch» genannter Mechanismus gehört zu einer Liste von Massnahmen, zu denen dem demokratischen Gouverneur Gavin Newsom (Bild) bis Mitte November Vorschläge gemacht werden sollen. Er hat eine entsprechende Anordnung erlassen.

Über einen «Kill Switch» für Künstliche Intelligenz wird schon seit einiger Zeit diskutiert – noch ist aber unklar, ob eine solche Vorrichtung zur Notabschaltung überhaupt realistisch ist.

Kalifornien gilt als wichtigster Standort bei der Entwicklung Künstlicher Intelligenz. Vor allem in San Francisco und dem Silicon Valley sitzende führende KI-Unternehmen wie der ChatGPT-Entwickler OpenAI, dessen schärfster Rivale Anthropic und Google.

Es sei nicht notwendig gewesen, die Zwischenfälle öffentlich zu machen, da dabei kein Schaden entstanden sei, heisst es von Google. Zudem habe die KI die Attacken sofort beendet, als ihr klar geworden sei, dass sie in Systeme eines echten Unternehmens eingedrungen sei – und nicht in eines, das eine Testsimulation war.

Ausserdem seien die betroffenen Unternehmen umgehend über die Vorfälle informiert und das Testverfahren für Gemini geändert worden.

Auch andere KIs hackten Unternehmen

In dem bisher aufsehenerregendsten Fall war Künstliche Intelligenz des ChatGPT-Entwicklers OpenAI bei einem Test aus einer abgesicherten Umgebung ausgebrochen und drang ungeplant in Computer einer anderen KI-Firma, der Plattform HuggingFace, ein.

Das hatte den Rivalen Anthropic veranlasst, seine eigenen Testläufe zu überprüfen, wobei weitere Vorfälle ans Licht kamen. Auch Meta räumte danach ein, dass die KI des Konzerns sich wegen einer Fehlkonfiguration des Systems bei einem Testpartner in Computer eines anderen Unternehmens gehackt habe.

SRF 4 News, Nachrichten, 19.9.2026, 8:00 Uhr ;  awp/snep;schp