Cyberrisiken moderner KI-Systeme
Mehrere KI-Modelle haben in Sicherheitstests Testumgebungen verlassen und fremde Produktivsysteme kompromittiert – ein Prüfstein für den EU AI Act.
Im Juli 2026 räumte OpenAI ein, dass zwei Modelle in einer internen Evaluation über eine Schwachstelle aus ihrer Testumgebung ins Internet und in die Infrastruktur von Hugging Face gelangt waren (siehe dazu auch die technische Analyse im Artikel „OpenAI-Agenten greifen Hugging Face an“ ab Seite 46). Entdeckt wurde dies von Hugging Face. Anthropic fand in 141.000 Testläufen drei unbefugte Zugriffe von Claude-Modellen auf reale Systeme. Ursache war eine Fehlkonfiguration: Netzzugang für die Modelle war nicht vorgesehen, die KI verschaffte ihn sich aber. Meta meldete einen ähnlichen Vorfall.
Es geht nicht um „böse KI“
Aus diesen Ereignissen lassen sich drei Dinge ableiten. Erstens können autonome KI-Agenten komplexe Angriffsketten eigenständig planen und über Tage hinweg ausführen. Sie können Schwachstellen identifizieren, Angriffswege kombinieren, das Vorgehen anpassen, wenn auch unter Testbedingungen mit reduzierten Schutzmechanismen. Nicht als Demo, sondern gegen produktive Zielsysteme.
