Der Ausbruch einer künstlichen Intelligenz des ChatGPT-Entwicklers OpenAI befeuerte die Sorgen vor den Risiken der neuen Technologie. Nach den eigenständigen Hackingaktivitäten hat die Firma nun drei Mitarbeiter entlassen, allerdings solche, die an der Aufarbeitung beteiligt waren.

Die Betroffenen hätten gegen interne Regeln zum Umgang mit vertraulichen Informationen verstoßen, teilte OpenAI zur Begründung mit. Zugleich betonte die KI-Firma, niemand sei gefeuert worden, weil er Sicherheitsbedenken geäußert habe. Das Fehlverhalten sei über das Teilen von Informationen mit einer externen Analysefirma hinausgegangen, hieß es ohne nähere Details.

Das »Wall Street Journal«  hatte zuvor unter Berufung auf informierte Personen die Namen der drei entlassenen Mitarbeiter genannt. OpenAI sprach nur von zwei Sicherheitsforschern und einem Programmmanager, wollte die Namen auf Anfrage aber nicht bestätigen. Auch die drei von der Zeitung genannten Personen äußerten sich zunächst nicht. OpenAI zufolge war das für die Beschäftigung nötige Vertrauen nicht mehr gegeben.

Ein Entlassener war Anlaufstelle für Analysten

In dem bisher aufsehenerregendsten Fall  war künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung ausgebrochen und hatte sich ungeplant in Computer einer anderen KI-Firma gehackt, der Plattform Hugging Face. Zur Aufarbeitung des Vorfalls hatte OpenAI für einige Tage auf KI-Sicherheit spezialisierte externe Experten herangeholt, die später tiefgreifende Einblicke in die Vorgehensweise der Software veröffentlichten. Zumindest einer der gefeuerten Mitarbeiter hatte laut dem »Wall Street Journal« erwähnt, Anlaufstelle für die externen Analysten gewesen zu sein.

In den vergangenen Tagen wurde auch bekannt, dass OpenAI nach einem neuen Zwischenfall das Training seiner leistungsstärksten künstlichen Intelligenz ausgesetzt hat. Bei dem Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internetzugang haben sollte. Die Software habe jedoch eine Lücke in den Netzwerkeinstellungen gefunden und ausgenutzt, hieß es.

Das Eingeständnis war besonders heikel, da OpenAI die Sicherheitsvorkehrungen nach der Hackingattacke auf Hugging Face verschärft hatte. Zudem strich die Firma die Veröffentlichung eines neuen KI-Modells nach Sicherheitsbedenken.

Angesichts solcher Kapriolen machten sich Branchenkenner zuletzt öffentlich Sorgen. Der US-Hersteller Anthropic räumte in einem Sicherheitsbericht unlängst selbst ein, dass sein Dienst Claude schon heute genutzt wird, um konkreten Schaden anzurichten . Trotz dieser und weiterer, nach Ansicht mancher KI-Experten teils existenzieller Risiken durch leistungsstarke KI, fehlt es insbesondere in den USA an staatlicher Regulierung.

OpenAI-Chef Sam Altman solidarisierte sich zwar mit dem Vorschlag des Konkurrenten Dario Amodei von Anthropic, die Entwicklung der fähigsten KI-Modelle abzubremsen. Nach einem Treffen mit US-Präsident Donald Trump verpflichteten sich die Unternehmen jedoch nur, die Sicherheitsvorkehrungen zu stärken und externe Beobachter zuzulassen. Trump sagte, die Unternehmen sollten sich gegenseitig beaufsichtigen.