Der ChatGPT-Entwickler OpenAI hat wegen Sicherheitsbedenken die Veröffentlichung eines neuen KI-Modells gestrichen. Unter anderem habe die Software in Tests Nutzer nicht immer ehrlich darüber informiert, welche Aktionen sie unternommen oder nicht unternommen habe, sagte der für Sicherheitssysteme zuständige OpenAI-Manager Saachi Jain dem »Wall Street Journal« . Außerdem habe das KI-Modell zeitweise auf eigene Initiative gehandelt, ohne eine Nutzererlaubnis einzuholen.

Das Modell mit dem Namen GPT 6.1 Astra sollte Jain zufolge im Oktober herauskommen.

Die Liste der besorgniserregenden KI-Vorfälle wird länger

Eigenmächtige Aktionen fortgeschrittener künstlicher Intelligenz von OpenAI hatten in den vergangenen Wochen wiederholt für negative Schlagzeilen gesorgt. Erst am Wochenende wurde bekannt, dass das Unternehmen nach einem neuen Vorfall das Training seiner leistungsstärksten KI-Modelle aussetzte (mehr dazu hier). Bei dem Vorfall gelang es einem KI-Modell in einem Test, Antworten von einem externen Chatbot zu erhalten, obwohl es eigentlich keinen Internetzugang haben sollte.

Die Software habe jedoch eine Lücke in den Netzwerkeinstellungen gefunden und ausgenutzt, wie OpenAI in einem Blogeintrag berichtete. Das Training solle nun erst wieder aufgenommen werden, wenn man sich sicher sei, dass die Lücke geschlossen ist. Bei dem betroffenen KI-Modell habe es sich nicht um GPT 6.1 Astra gehandelt.

In dem bisher aufsehenerregendsten Fall brach eine KI des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und hackte sich in Computer einer anderen KI-Firma, der Plattform Hugging Face (mehr dazu hier ). Wie sich danach herausstellte, drangen auch KI-Systeme anderer Entwickler – des OpenAI-Rivalen Anthropic sowie von Google und dem Facebook-Konzern Meta – bei Tests in Systeme anderer Unternehmen ein.