InquirerPanelo faces Senate impeachment court show-cause order over bias claimsPunchFG unveils national grid video challenge for studentsCNN TürkCourier Blackline yola çıktıDaily MaverickTaiwan tells Meta thousands of China-linked accounts seek to influence electionsThe Jerusalem PostIsrael Police uncover buried stash of IDF artillery shell fuses, ammunition in northern villageSky TG24L’Era Glaciale: Punto di Ebollizione, il trailer del filmBollywood HungamaMohitt Maalik to play antagonist opposite Tiger Shroff in spiritual action film VajrCNN بالعربية"أنثروبيك" تحطم الرقم القياسي لأكبر طرح عام أولي في التاريخ.. وأرامكو ضمن الخمسة الكبار3DNewsИнсайдер раскрыл, когда и где покажут многострадальный ремейк Star Wars: Knights of the Old RepublicZDF heuteAktuelle Pressemitteilungen des ZDFالشرقبولندا تحقق في انتهاك محتمل لمجالها الجوي خلال هجوم روسي على أوكرانياThe South African · LifestyleRare black springbok born months after death of beloved Siya
The Daily Newsstand · Free, Always
Friday, November 20, 2026

Google baut ein künstliches Internet für seine KI-Agenten

Translate

Wenn KI-Agenten selbstständig Websites besuchen, Informationen sammeln, Formulare ausfüllen und Einkäufe erledigen, müssen sie mit potenziell gefährlichen Inhalten umgehen können. Ein großes Risiko sind Prompt-Injection-Angriffe, bei denen Angreifer Anweisungen auf Websites verstecken, um Agenten von ihrem eigentlichen Auftrag abzubringen. So könnten sie einen Agenten etwa dazu verleiten, vertrauliche Nutzerdaten weiterzugeben oder unerwünschte Aktionen auszuführen.

Um solche Schwachstellen aufzudecken, möchte Google seine Agenten mit realistischen Aufgaben und Angriffen konfrontieren. Tests im offenen Internet wären jedoch riskant, weil Agenten unbeabsichtigt reale Aktionen auslösen könnten. Deshalb hat Google die „Mirror Dimension“ entwickelt, eine vom echten Internet abgeschottete Testumgebung mit Tausenden künstlichen Websites.

Eine zentrale Herausforderung bei der Entwicklung des künstlichen Webs war, dass KI-Modelle mitunter erkennen, wenn sie getestet werden, und ihr Verhalten anpassen. Schon ungewöhnliche Internetadressen oder wenig überzeugende Websites können eine solche Testsituation verraten. Damit die Ergebnisse aussagekräftig sind, muss Googles künstliches Internet also möglichst echt wirken.

Dafür lässt Google die Agenten echte Internetadressen wie youtube.com aufrufen. Chrome läuft dabei in einer isolierten Umgebung, die den gesamten Netzwerkverkehr des Browsers abfängt und an einen lokalen Vermittlungsserver (Proxy) umleitet. Dieser liefert statt der echten Websites künstliche Versionen aus. Damit Chrome die Umleitung nicht aus Sicherheitsgründen blockiert, hat Google eine eigene Zertifizierungsstelle im Testbrowser als vertrauenswürdig hinterlegt. Der lokale Server kann so passende HTTPS-Zertifikate ausstellen.

Für die Erstellung der Websites setzt Google auf KI-Agenten. Ein Rechercheagent ermittelt die Anforderungen, ein Entwicklungsagent programmiert die Websites und weitere Agenten überprüfen die Ergebnisse und schlagen Verbesserungen vor.

Um die Widerstandsfähigkeit seiner Agenten gegen Prompt Injections zu prüfen, schleust Google gezielt manipulierte Inhalte in die künstlichen Websites ein. Die versteckten Anweisungen können in Texten, Bildern und anderen Seitenelementen auftauchen. Laut Google erzeugt die automatisierte Testpipeline täglich mehr als 1.000 Angriffstestkandidaten pro Sicherheitsingenieur, über 30-mal so viele wie bei manueller Arbeit.

Google will die Simulation weiter verbessern und seine Sicherheitstests ausbauen. Laut Wired soll die Testumgebung zudem weiteren Teams innerhalb des Konzerns zugänglich gemacht werden.

Googles Ansatz adressiert nur einen Teil der Sicherheitsrisiken autonomer KI-Agenten. Im Mittelpunkt steht der Schutz vor Manipulationen durch fremde Websites. Das Problem, dass Kriminelle KI-Agenten gezielt für Cyberangriffe einsetzen könnten, wird damit nicht gelöst. Zudem dürfte zunächst vor allem Google selbst von den Fortschritten profitieren, weil die Testumgebung für die Browser-Agenten von Chrome entwickelt wurde. Zwar legt der Konzern seine Vorgehensweise offen, eine Freigabe der Infrastruktur für andere Browserhersteller ist bislang aber nicht angekündigt.

View the original on heise online →

KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.