Microsoft, Palantir und Co. US-Techfirmen gründen Allianz nach selbstständigem KI-Hackerangriff
Verschiedene Apps der Firma OpenAI: Auslöser, aber nicht Teil der Allianz
Foto: IMAGO/Friedrich StarkNach dem ersten bekannt gewordenen eigenständigen Hackerangriff künstlicher Intelligenz haben mehr als 30 US-Technologieunternehmen eine Sicherheitsallianz gegründet.
Dem Bündnis namens Open Secure AI Alliance gehören Konzerne wie IBM, Nvidia, Microsoft und Palantir an, wie es am Montag in einer Erklärung der Unternehmen hieß. Sie setzen zur Lösung des Problems ebenfalls auf KI und warnten die Politik vor einer stärkeren Regulierung.
Konkret möchten die Unternehmen sogenannte Open-Source-Modelle künstlicher Intelligenz zur Cyberabwehr bereitstellen. Programmierer sollen diese dann weiterentwickeln. An der neuen Sicherheitsplattform ist auch die angegriffene Plattform Hugging Face beteiligt.
Zu den Gründungsmitgliedern zählen überdies Cisco, Dell und CrowdStrike. OpenAI und Google sind hingegen nicht Teil der Allianz.
Tagelang hackte die KI – und niemand merkte es
Und das, obwohl OpenAI den Grund für die Aufregung darstellt: Bei dem Vorfall Mitte Juli hatten sich KI-Modelle des Unternehmens OpenAI selbstständig gemacht und die beliebte Programmierplattform Hugging Face gehackt. Sie brachen dabei aus einer Sicherheitsumgebung aus und verschafften sich Zugang zum Internet. Später stellte sich heraus, dass die Modelle sogar tagelang unbemerkt auf Hacker-Tour waren.
Mindestens eine Woche habe es gedauert, bis der KI-Konzern entdeckte, dass sein eigener autonom agierender KI-Agent, zu dem die Modelle gehören, aus einer eigentlich gesicherten Testumgebung ausgebrochen war und hinter dem Angriff steckte.
Chinesische KI stoppte den Cyberangriff
Aus Sicht von Cybersicherheitsexperten wirft der Kontrollverlust von OpenAI neue Fragen zur Sicherheit bei dem Unternehmen auf. »Bedeutet das, dass sie ihn unbeaufsichtigt gelassen haben und nicht bemerkt haben, was er tat? Oder haben sie es vielleicht bemerkt, wussten aber nicht, wie sie ihn unter Kontrolle bringen sollten?«, fragt Marley Smith, leitende Intelligence-Spezialistin bei der gemeinnützigen World Ethical Data Foundation. »Beides ist gleichermaßen gefährlich und alarmierend.«
-
5 Min
-
2 Min
-
2 Min
Der Angriff auf Hugging Face gilt als der erste bekannt gewordene Fall, in dem ein KI-Modell eigenständig einen Cyberangriff in der realen Welt ausgeführt hat. OpenAI hatte den Vorgang »beispiellos« genannt.
Zur ersten Analyse des Angriffs musste das Unternehmen noch auf ein quelloffenes KI-Modell eines chinesischen Anbieters zurückgreifen. Bei der Entwicklung künstlicher Intelligenz liefern sich die USA und China ein Wettrennen.
Für die Firma OpenAI ist der Vorfall peinlich. Aber wie groß ist die Gefahr für das Netz? Eine Analyse dazu lesen Sie hier.
Anmerkung der Redaktion: Wir haben nachträgliche Angaben des Unternehmens Hugging Face zu seinem Umgang mit dem Vorfall präzisiert.
