Phishen mit KI
Rund 50 Prozent aller Phishing-Mails werden mittlerweile mit Hilfe von KI formuliert. Darüber, wie groß die Gefahr durch KI-gesteuerte Cyberangriffe tatsächlich ist, sind sich die Fachleute allerdings uneinig.
Anton Cherepanov ist stets auf der Suche nach Interessantem. Ende August letzten Jahres entdeckte er genau das: eine Datei, die auf den ersten Blick harmlos wirkte, aber dennoch die maßgeschneiderten Sicherheitssysteme auslöste, die Cherepanov entwickelt hat, um Malware aufzuspüren. In den folgenden Stunden untersuchte er diese Datei mit seinem Kollegen Peter Strýček. Die beiden stellten fest, dass sie so etwas noch nie zuvor gesehen hatten.
Die Datei enthielt Ransomware, eine bösartige Malware, die die Dateien auf dem System eines Opfers verschlüsselt und unbrauchbar macht. Gegen Lösegeld werden die Daten wieder freigegeben. Was diese Ransomware jedoch von anderen unterschied, war, dass sie große Sprachmodelle (LLMs) einsetzte. Sobald die Malware installiert war, griff sie auf ein LLM zu, um in Echtzeit maßgeschneiderten Code zu generieren, rasch den Computer zu scannen, sensible, erpressungswürdige Daten zu identifizieren und personalisierte Lösegeldforderungen auf der Grundlage des Dateiinhalts zu verfassen. Die Software tat dies autonom und ohne jegliches menschliche Eingreifen. Und sie verhielt sich nie zweimal gleich, was es erschwerte, sie zu erkennen.
