Google: Auch KI Gemini ist in fremde Systeme eingebrochen

Auch Googles KI-Software Gemini hat sich bei Tests den Zugang zu Computersystemen anderer Unternehmen erschlichen. Der Internet-Riese ist der vierte Entwickler Künstlicher Intelligenz (KI), dessen Programme mit einem solchen Verhalten auffielen, nach OpenAI, Anthropic und dem Facebook-Konzern Meta. Google machte die bereits Monate zurückliegenden Vorfälle erst nach einer Nachfrage der Zeitung "Wall Street Journal" öffentlich.

Demnach verübte Gemini drei Hackerangriffe auf Unternehmen, deren Namen nicht genannt wurden. In einem Fall erriet die KI Passwörter, um in ein geschütztes System hineinzukommen. In den beiden anderen Fällen fand sie Zugangsdaten in einer Datenbank, wie das "Wall Street Journal" unter Berufung auf Google schrieb.

Google: Kein Schaden entstanden

Die Vorfälle ereigneten sich demnach im Mai - und die Firma Irregular als Testpartner informierte Google im Juli darüber. Aus Sicht des Internetkonzerns sei es nicht notwendig gewesen, die Zwischenfälle öffentlich zu machen, da dabei kein Schaden entstanden sei. Zudem habe die KI die Attacken sofort beendet, als ihr klar geworden sei, dass sie in Systeme eines echten Unternehmens eingedrungen sei - und nicht eines, das eine Testsimulation war.

Die für Sicherheitsarchitekturen zuständige Google-Managerin Heather Adkins betonte zugleich, der Konzern habe dafür gesorgt, dass die betroffenen Unternehmen informiert wurden. Das Testverfahren bei dem Trainingspartner sei im Anschluss geändert worden.

Enthüllungen in Fülle

In dem bisher aufsehenerregendsten Fall war Künstliche Intelligenz des ChatGPT-Entwicklers OpenAI bei einem Test aus einer abgesicherten Umgebung ausgebrochen und ungeplant in Systeme einer anderen KI-Firma, der Plattform HuggingFace, eingedrungen. Das hatte den Rivalen Anthropic veranlasst, seine eigenen Testläufe zu überprüfen, wobei weitere Vorfälle ans Licht kamen. Auch Meta räumte danach ein, dass eine eigene KI sich wegen einer Fehlkonfiguration bei einem Testpartner in Computer eines anderen Unternehmens gehackt habe.

Anthropic-Chef Dario Amodei warnte unlängst vor einer KI, die außer Kontrolle geraten könnte. Zusammen mit anderen führenden Branchenvertretern in den USA forderte er, die Entwicklung der fortschrittlichsten KI-Modelle zu verlangsamen, um Risiken zu begrenzen.