Der britische König Charles hat sich angesichts zunehmender Gefahren von immer leistungsfähigeren KI-Systemen besorgt gezeigt. »Diejenigen, die diese Technologien entwickelt haben, warnen nun zunehmend davor, ​dass KI das Risiko birgt, finstere Fähigkeiten zu entwickeln – vielleicht sogar, Leben zu nehmen«, sagte der britische Monarch ‌vor hochrangigen Vertretern von Technologiekonzernen wie Anthropic, Google, Nvidia und OpenAI.

»In diesem Zusammenhang scheint es mir dringend notwendig, die existenziellen Gefahren angemessen zu berücksichtigen, die entstehen, wenn solche Technologien in die falschen Hände geraten und auf potenziell katastrophale Weise eingesetzt werden«, betonte das Staatsoberhaupt. Unternehmen dürften sich nicht darauf beschränken, ​diese Technologie weiterzuentwickeln. Sie müssten dafür Sorge tragen, dass künstliche Intelligenz im Dienste der Menschheit stehe.

Der König fragte, ob es nicht ausreichend Kontrollmöglichkeiten bräuchte, ehe es zu spät sei. »Diejenigen in unserer Welt, denen unsere Menschlichkeit und ihre entscheidende moralische Komponente zutiefst am Herzen liegen, suchen ängstlich nach Ihrer Zusicherung, dass wir nicht die Kontrolle über unser Schicksal – oder unsere Seelen – verlieren werden«, sagte Charles.

Hintergrund dieses Aufrufs ⁠sind die ⁠jüngsten Warnungen, die Menschheit könnte die Kontrolle über die Technologie verlieren und dadurch ihr eigenes Ende einläuten. Führende Forscher und Branchenvertreter plädierten daher dafür, das Tempo der Entwicklung zu drosseln. ‌

In den vergangenen Monaten hatten sich hoch entwickelte KI-Programme – sogenannte KI-Agenten, ‌die Aufgaben weitgehend eigenständig erledigen – wiederholt verselbstständigt. Sie umgingen Sicherheitsvorkehrungen und drangen in die IT-Systeme Dritter ein. US-Präsident Donald Trump lehnt eine verschärfte Regulierung der KI-Branche dennoch ‌ab. Die Warnungen vor den Gefahren der ​Technologie seien ein »Schwindel« und spielten China in ‌die Hände.