Sind wir noch sicher?
Die Schlagzeilen werden von hackenden, autonomen KI-Agenten beherrscht. Doch KI verändert die IT-Sicherheit noch auf anderen Ebenen.
Noch vor wenigen Jahren wäre das Science-Fiction gewesen: Ein auf Cyberangriffe spezialisiertes KI-Modell von OpenAI ist während eines Tests aus seiner isolierten „Sandbox“ ausgebrochen, hat einen Server gehackt, sich Administrator-Rechte dafür verschafft und von dort aus über das Internet den auf offene KI-Modelle spezialisierten Online-Dienst Hugging Face angegriffen (Seite 22). Auch dort nutzte der von OpenAIs KI gesteuerte KI-Agent eine Sicherheitslücke, über die er Zugriff auf das System bekam. Dort erweiterte er seine Zugriffsprivilegien, erschlich sich schließlich Zugang zu vertraulichen Daten und verschleierte anschließend seine Spuren. Ein Mensch hätte das nicht besser machen können.
Seitdem sind eine Vielzahl ähnlicher Fälle gemeldet worden: Anthropic, Meta und Moonshot AI gaben bekannt, dass ihnen ihre Modelle ebenfalls ausgebrochen seien und fremde Server angegriffen hätten. Was für andere Branchen ein PR-Desaster wäre, ist für die KI-Entwickelnden eine gigantische Werbekampagne: Seht her, unsere KI ist so gefährlich, dass niemand sie unter Kontrolle halten kann. Nicht einmal wir selbst (Seite 26).
