Ein ehemaliger Mitarbeiter der Google-Tochter DeepMind hat vor den Gefahren von künstlicher Intelligenz gewarnt. »Ich glaube aufrichtig, dass KI das Potenzial hat, uns alle zu töten, und es möglicherweise zu spät ist, dies zu verhindern«, erklärte der Ingenieur Bilal Chughtai, der DeepMind im Juli verlassen hatte, am Dienstag. Zuletzt hatten führende Techunternehmer dazu aufgerufen, wegen der Gefahren der neuen Technologie ihre Entwicklung zu verlangsamen.

Chughtai erwähnte in seiner Stellungnahme einen Zwischenfall im Juli, bei dem KI-Agenten von OpenAI spontan aus ihrer vorgegebenen Umwelt ausgebrochen waren, um sich Zugang zum Internet zu verschaffen und Websites und Plattformen zu attackieren. Für ihn habe dieser Vorfall gezeigt, dass KI sich inzwischen der Kontrolle ihrer Entwickler entziehen »und gefährliche Handlungen ausführen kann, die zu einem endgültigen Verlust der Kontrolle oder zum Tod der Menschheit führen könnten«.

Der Ingenieur, der bei DeepMind in den Bereichen Sicherheit und Alignment, der Ausrichtung der Modelle an menschlichen Werten, gearbeitet hatte, warnte, es sehe derzeit nicht danach aus, »dass wir das Alignment rechtzeitig in den Griff bekommen. Die Fähigkeiten der fortschrittlichsten KI verbessern sich viel schneller als unser Verständnis von Alignment«, erklärte er.

Für Trump sind KI-Skeptiker »Verräter«

Anfang vergangener Woche hatte der KI-Experte Jacob Coxon, der zuerst bei OpenAI und dann bei Anthropic gearbeitet und beide Unternehmen verlassen hatte, beiden öffentlich laxe Sicherheitsstandards vorgeworfen. Die beiden KI-Riesen spielten damit »mit unserem Leben«, warnte ihr Ex-Mitarbeiter.

Am Samstag rief dann der Chef von Anthropic, Dario Amodei, in einem Essay auf seiner Website dazu auf, das Tempo zu »verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern«. Die dadurch »gewonnene Zeit« solle sinnvoll genutzt werden, um die durch KI entstehenden Risiken besser zu verstehen und einzudämmen.

Amodei bekam Unterstützung vom Chef des Konkurrenzunternehmens OpenAI, Sam Altman, dem Techunternehmer Elon Musk, der hinter dem KI-Assistenten Grok steht, Microsoft-Chef Satya Nadella sowie DeepMind-Chef Demis Hassabis.