Der Chef des KI-Entwicklers Anthropic, Dario Amodei, hat seine Branche zu einer koordinierten Drosselung des bisherigen Entwicklungs-Tempos aufgerufen. Angesichts wachsender Sorgen über einen Missbrauch künstlicher Intelligenz skizzierte Amodei einen Drei-Schritte-Plan. Ziel sei es, die Entwicklung zu verlangsamen und mehr Zeit zu gewinnen, um die Risiken zu beherrschen.

»Wir müssen das Tempo verlangsamen, mit dem wir die Fähigkeiten von KI-Modellen verbessern. Der Fortschritt wird weiter schnell erscheinen, und wir müssen die Zeit klug nutzen, die wir gewinnen«, schrieb Amodei in einem Text, den er auf seiner Webseite veröffentlichte (hier geht’s zum ganzen Beitrag ).

Er habe die Befürchtung, dass innerhalb von sechs bis zwölf Monaten KI-Schwärme in der Lage sein könnten, das gesamte Internet zu übernehmen und Hunderte Milliarden Dollar Schaden zu verursachen, so Amodei.

Anthropic will Entwicklung für externe Kontrolleure öffnen

Der Anthropic-Chef nahm ausdrücklich Bezug auf Hacking-Vorfälle, in denen KI-Modelle zuletzt aus kontrollierten Umgebungen ausgebrochen waren und zunächst unerkannt IT-Systeme von anderen Firmen attackiert hatten, darunter die Plattform Hugging Face.

Amodei ruft in seinem Beitrag die führenden KI-Entwickler »in demokratischen Ländern« auf, sich untereinander abzustimmen. Ziel seien »gemeinsame Sicherheitsstandards sowie Begrenzungen des unkontrollierten Fortschritts der KI«. Diese Regeln sollen laut Amodei die Firmen selbst entwickeln, Regierungen sollten dabei unterstützen. In einem weiteren Schritt sollten »demokratische Regierungen« dann versuchen, auch mit autoritären Regimen Absprachen für eine Kontrolle des Entwicklungstempos zu treffen.

Amodei fordert die führenden KI-Unternehmen der Branche zudem auf, externen Gutachtern dauernden Zugang zu gewähren – und damit eine gewisse externe Kontrolle der KI-Entwicklung zu ermöglichen. Amodei spricht von »embedded evaluators«. Diesen Prüfern solle der gleiche Zugang wie den eigenen Mitarbeitern gewährt werden. So könne die Einhaltung von Sicherheitsvorschriften und Sicherheitsverpflichtungen extern überwacht werden.

Vorbild Atomwaffen-Inspektionen?

Um mit gutem Beispiel voranzugehen, wolle Anthropic diese externe Begutachtung selbst einführen, ohne sich darüber vorher mit anderen KI-Entwicklern abzustimmen. »Anthropic verpflichtet sich jetzt einseitig zu diesem Schritt«, schreibt Amodei. Die Idee erinnert ein wenig an die langjährige Praxis Russlands und der USA, die Nukleararsenale beider Länder durch Inspektorenbesuche zu überwachen.