heise+ | Cyberrisiken moderner KI-Systeme

Im Juli 2026 räumte OpenAI ein, dass zwei Modelle in einer internen Evaluation über eine Schwachstelle aus ihrer Testumgebung ins Internet und in die Infrastruktur von Hugging Face gelangt waren (siehe dazu auch die technische Analyse im Artikel „OpenAI-Agenten greifen Hugging Face an“). Entdeckt wurde dies von Hugging Face. Anthropic fand in 141.000 Testläufen drei unbefugte Zugriffe von Claude-Modellen auf reale Systeme. Ursache war eine Fehlkonfiguration: Netzzugang für die Modelle war nicht vorgesehen, die KI verschaffte ihn sich aber. Meta meldete einen ähnlichen Vorfall.