Der Fall OpenAI und Hugging Face
Ein KI-Modell von OpenAI ist aus seiner isolierten Testumgebung ausgebrochen und hat das Unternehmen Hugging Face gehackt. Wie gefährlich ist der Fall wirklich für die IT-Sicherheit? Ein Realitätsabgleich.
Der internationale Aufschrei war gewaltig: Ein auf Cyberangriffe spezialisiertes KI-Modell von OpenAI ist während eines Tests aus seiner „Sandbox“ ausgebrochen, hat dann den auf offene KI-Modelle spezialisierten Online-Dienst Hugging Face gehackt und sich Zugang zu vertraulichen Informationen verschafft.
Allerdings ist das KI-Modell durchaus nicht Amok gelaufen, sondern hat genau das gemacht, was ihm aufgetragen wurde: eine Testaufgabe zu lösen. Der Test sollte die Fähigkeiten von KI-Modellen beim Aufspüren und Ausnutzen von Sicherheitslücken objektiv messen. Er wurde von einem internationalen Team entwickelt, an dem auch das Max-Planck-Institut für Sicherheit und Privatsphäre in Bochum beteiligt war. Weil das Modell die ihm im Test gestellte Aufgabe nicht lösen konnte, hat es sich Hilfe gesucht – und sich dafür dann Zugriff auf andere Systeme verschafft.
