Spaniens Datenschutzaufsicht: Erster Cyberangriff mithilfe eines KI-Agenten

Spaniens Datenschutzaufsicht hat nach eigenen Angaben eine erste Meldung über eine Datenschutzverletzung erhalten, für die ein KI-Agent auf Basis eines bekannten Sprachmodells verantwortlich gewesen sein soll. Das hat die AEPD (Agencia Española de Protección de Datos) in einem Blogeintrag publik gemacht und sieht ein Zeichen zum Handeln. Laut dem Blogeintrag hat der angreifende KI-Agent eine Suche nach Schwachstellen in generischen Dateien eingeleitet und sich erfolgreich angemeldet. Im System habe er eigenständig nach weiteren Schwachstellen gefahndet. Nachdem er sie gefunden hatte, habe er personenbezogene Daten ändern und auf Rechnungen zugreifen können. Bei bisher bekannten Fällen kamen nicht öffentlich verfügbare KI-Agenten zum Einsatz.

Neue Anforderungen an Cybersicherheit

Die Datenschutzbehörde weist explizit darauf hin, dass die verfügbaren Informationen aus der Meldung der betroffenen Organisation stammen. Der Angriff bedeute nicht, dass ein KI-Anbieter kompromittiert wurde. Aus datenschutzrechtlicher Sicht sei relevant, dass ein Dritter „einen KI-Agenten als Instrument genutzt haben soll, um verschiedene Phasen des Angriffs erfolgreich miteinander zu verknüpfen“. Das sei ein deutliches Zeichen dafür, dass Cyberangriffe auf KI-Basis jetzt eine qualitative Veränderung erfahren. Ein sogenannter KI-Agent „kann ein Ziel erhalten, Zwischenschritte planen, Tools einsetzen, Code ausführen, Quellen abfragen, Ergebnisse interpretieren und sein Vorgehen autonom an das gefundene Material anpassen“. Von neuer Qualität sei dabei primär die Geschwindigkeit eines Cyberangriffs.

Derartige Cyberangriffe verändern das Risikomanagement grundlegend, schreibt Francisco Pérez Bes, stellvertretender Leiter der AEPD. Zum Ersten müssten KI-unterstützte Angriffe ausdrücklich in Risikoanalysen aufgenommen werden, ein allgemeiner Hinweis auf Malware, Phishing oder unbefugte Zugriffe reiche nicht. Die Automatisierung könne die Wahrscheinlichkeit, die Geschwindigkeit und das Ausmaß eines Cyberangriffs deutlich verändern. Zum Zweiten weist er darauf hin, dass Verfahren zur Verteidigung gegen manuell ausgeführte Angriffe unzureichend sein dürften, weil man damit zu langsam sei. Schließlich werde nun deutlich, dass die IT-Sicherheit nicht allein von manuellen Eingriffen abhängen darf. Drittens gewinnen digitale Zugangsdaten und API-Schlüssel an Bedeutung. Wer sich die verschaffe, könne im System mit der Geschwindigkeit einer Maschine agieren, was die Entdeckung erschwere.

Welches KI-Modell bei dem Angriff zum Einsatz gekommen ist, schreibt die Behörde nicht. Genannt wird auch die betroffene Organisation nicht. Stattdessen nutzt die AEPD die Gelegenheit, um Datenschutzbeauftragte und Verantwortliche für die Cybersicherheit dazu aufzufordern, sich auf die neuen Gefahren einzustellen. Die Geschwindigkeit von Cyberangriffen werde immer weiter zunehmen. Gleichzeitig blieben die Grundprinzipien dieselben: Man müsse weiterhin die Datenverarbeitungen kennen, Daten minimieren, den Zugriff beschränken, Schwachstellen beheben, Anbieter kontrollieren und sich darauf vorbereiten, schnell reagieren zu können.