Sicherheit von künstlicher Intelligenz »Es reicht nicht, einem KI-Modell zu sagen: ›Das sind die Regeln Nr. 1, 2 und 3‹«
Dein SPIEGEL: Im Zusammenhang mit künstlicher Intelligenz (KI) sprechen in letzter Zeit viele über das sogenannte Alignment – was ist damit gemeint?
Mindermann: Alignment kann mit dem Wort Ausrichtung übersetzen. Andere Forschende und ich denken darüber nach, wie man die KI ausrichten kann, damit sie hilfreich ist und keinen Schaden anrichtet. Ein Programm wie ChatGPT sollte nicht das Ziel haben, Produkte zu bewerben, die der User gar nicht haben will. Dieses Problem wird immer drängender. Denn die großen KI-Firmen trainieren ihre Chatbots so, dass sie voraussichtlich nächstes Jahr Flüge buchen oder andere Waren einkaufen können.
Privat
Sören Mindermann, 31, arbeitet als Postdoc am KI-Forschungszentrum Mila in Montréal. Dort wird er von KI-Koryphäe Yoshua Bengio betreut. Außerdem ist er wissenschaftlicher Koordinator des International Scientific Report on the Safety of Advanced AI .
Dein SPIEGEL: Wie kann die Ausrichtung einer KI gelingen?
Mindermann: Man kann einem KI-Modell ein paar Grundsätze beibringen. Zum Beispiel: »Verhalte dich wie ein Computerprogramm, nicht wie ein Mensch.« Es reicht aber nicht, einem KI-Modell zu sagen: »Das sind die Regeln Nr. 1, 2 und 3.« Dann erfindet das Modell möglicherweise die Regeln Nr. 4, 5 und 6 hinzu. Entscheidend ist das Training. Der Mensch beurteilt dabei, ob die KI gut oder schlecht performt hat. Wenn die KI etwa behauptet: »Der Eiffelturm steht in Rom«, korrigiert sie der Mensch. So lässt sich eine KI ausrichten.
Dein SPIEGEL: Was sind die Herausforderungen dabei?
Mindermann: KI-Modelle sind eine Blackbox: Entwicklerteams wissen wenig darüber, wie die Systeme zu ihren Entscheidungen kommen. Zwar lassen sich Stichproben durchführen. Dann weiß man: In 150 Fällen kommt die KI zu diesem einen Ergebnis. Die Entwickler können sich aber nicht sicher sein, ob sich das Programm in den nächsten 100 Fällen genauso verhalten wird.
Was hat ChatGPT mit Papageien zu tun? Kommen bald die menschenähnlichen Roboter? Und wie verändert künstliche Intelligenz (KI) den Schulunterricht? Diesen und vielen weiteren Fragen geht »Dein SPIEGEL« in einer dreiteiligen Serie nach – und zwar in den Ausgaben Nr. 9/2024, 10/2024 und 11/2024. Hier gibt’s ein Vorteils-Angebot .
Dein SPIEGEL: Es gibt ein Gedankenspiel des schwedischen Philosophen Nick Bostrom: Eine KI wird darauf programmiert, ganz viele Büroklammern herzustellen. Irgendwann kommt sie auf die Idee, dass die Menschen ihr dabei im Weg stehen – und so richtet sich die Maschine gegen die Menschheit. Ist das realistisch?
Mindermann: Nein. Das ist wirklich nur ein Gedankenspiel, das zeigen soll: Selbst ein Ziel, das erstmal unbedenklich aussieht, kann bei einer sehr, sehr starken KI dazu führen, dass sie ihr Ziel anders interpretiert als der Mensch, der sie programmiert hat.
Dein SPIEGEL: Wenn ein KI-Programm zu gefährlich wird – kann man ihm dann nicht einfach den Stecker ziehen?
Mindermann: Nicht wenn sich das Programm vorher auf ganz viele andere Rechner kopiert hat – wie ein Computervirus. Menschen mit bösen Absichten könnten ein KI-Programm darauf trainieren.
Dein SPIEGEL: Was sollte passieren, um die Sicherheit von KI-System zu erhöhen?
Mindermann: Führende KI-Forscher haben gefordert, dass große Firmen ein Drittel ihres Geldes für KI-Sicherheit und -Ethik ausgeben sollen. Und der Staat sollte mehr Einsicht darin bekommen, wie KI-Systeme entwickelt und welche Ziele eingebaut werden.
DEIN SPIEGEL
Liebe Eltern,
Kinder wollen die Welt verstehen. Sie interessieren sich für Natur, Menschen und Technik. Sie stellen Fragen. Und sie geben sich nicht mit den erstbesten Antworten zufrieden. Darum gibt der SPIEGEL für junge Leserinnen und Leser ab acht Jahren ein eigenes Nachrichtenmagazin heraus.
DEIN SPIEGEL erscheint jeden Monat neu und bietet spannende, verständlich geschriebene Geschichten aus aller Welt, Interviews und News aus Politik und Gesellschaft. Für noch mehr Spaß sorgen Comics, Rätsel und kreative Ideen zum Mitmachen.
