Kommentar: Die einmal mehr besorgten „KI“-Bros
Seit Tagen wird wieder darüber debattiert, ob „KI“ zu gefährlich ist. Die Warnungen sind nicht neu und die Branche hat andere Interessen, kommentiert tante.
(Bild: FotoField/Shutterstock.com / Bearbeitung heise medien)
Wir lesen in jüngster Zeit viel über die besorgten „KI“-Bros ([Anmerkung der Red.:]tante schreibt „KI“ in Anführungszeichen, weil der Begriff irreführend sei, viel mit vagen Erwartungen verknüpft und nichts mit echter Intelligenz zu tun habe): Dario Amodei und Sam Altman sprechen beide davon, man müsse jetzt die Entwicklung von „Frontier KI“ verlangsamen und sogar Elon Musk stimmt zu:
(Bild: Screenshot/Twitter/@sama)
Eine unheilige Allianz, die nachdenklich machen sollte, gerade wo die drei betreffenden Herren sich alle zutiefst verachten. Ist die Sorge der „KI“-Bros um die Zukunft so groß, dass sie alle Konflikte überstrahlt? Ist der aktuelle Fall um Jacob Coxon, der aus Sorge, „‚KI‘ könnte uns alle auslöschen“, seinen Job bei Anthropic hingeworfen hat, auch ein Ausdruck dieser Angst vor realen Konsequenzen? Coxon tritt sogar im US-Fernsehen auf, um zu unterstreichen, dass uns Menschen kaum Gegenmaßnahmen verbleiben, weil „die KI“ sich einfach wie ein Virus auf andere Maschinen verbreitet, wenn man sie abschalten wollte. Ist das ein reales Szenario?
Natürlich nicht. Und die Art der Berichterstattung ist leider wirklich ärgerlich schlecht.
Warnungen schon vor Jahren
Zuerst ist es natürlich wichtig zu wissen, dass Anthropic sich aus OpenAI abgespalten hat, weil OpenAI den sich abspaltenden Personen nicht Kult genug war: Offiziell beschreibt Amodei es zwar als unterschiedliche Vorstellungen über die Sicherheit von „KI“ und die Frage, wie man die Fähigkeiten von „KI“ erhöhen kann, doch schon in der Erklärung scheinen die echten Beweggründe hindurch. Anthropic wurde gegründet von Leuten aus der Effective Altruism (EA) Bubble, die wirklich glauben, dass LLMs gleichzeitig ein „existential Risk“ (also ein Risiko für den Fortbestand der Menschheit, hier war eine Sollbruchstelle zu der Sicht von OpenAI) wie auch einen neuen Gott darstellen, der entsteht, wenn man nur die „Scaling Laws“, das heißt, immer größere Systeme zu bauen, anwenden würde. Diesem System sei dann weitgehend die Kontrolle zu übergeben, damit es nahezu alle Probleme der Menschheit lösen kann.
Diese Denkrichtung hatte (und hat) auch bei OpenAI immer einen gewissen Einfluss, dort herrscht allerdings immer noch eine eher pragmatische Perspektive vor: Am Ende hofft man, ein Business zu finden, bevor Sam Altman die Geschichten ausgehen. Anthropic hingegen ist deutlich mehr „on a mission“. Die Übereinstimmung ist also auch aus der Perspektive so ungewöhnlich, dass man genauer hinsehen muss. Gerade Anthropic steckt hier ja in einem Zwiespalt, der bisher immer zugunsten von mehr Entwicklung aufgelöst wurde.
Nun haben wir alle die Geschichte von „unsere magischen KI Modelle sind zu gefährlich/mächtig um sie zu releasen“ jetzt mehrfach durchgespielt. Wir alle erinnern uns, als 2019 sogar GPT-2 zu mächtig für ein öffentliches Release war. Ein Modell, das heute niemanden mehr interessiert, weil es zu schlecht für jeden üblichen Use Case ist.
Aber der Schrägstrich ist wichtig: Die Behauptung von „unser Modell ist super gefährlich“ ist vor allem die Behauptung, dass ein Modell mächtig sei. Es ist eine Werbebotschaft, mit der der Hype um LLMs am Laufen gehalten werden soll.
Denn wo steht die Branche gerade?
Anthropic und OpenAI wollen zeitnah an die Börse – auch weil es zunehmend schwierig für sie ist, noch anderes Funding für ihre hochdefizitären Unternehmen zu bekommen und da kämen die großen ETFs und Rentenfonds ihnen ganz recht.
Anthropic behauptet zwar seit einigen Monaten profitabel zu sein, doch niemand hat dazu bisher echte Zahlen gesehen: Keine der „KI“ Firmen führt eine Buchhaltung nach akzeptierten Kriterien. Stattdessen haben sie die Kennzahl ARR (Annualized Run Rate) etabliert. Diese bedeutet: Die Firmen suchen sich gute 4 Wochen raus, multiplizieren diese mit 13 und behaupten, dass das das Jahr beschreiben würde. Eine auf jeden Fall kreative Form der Wirtschaftlichkeitsberechnung.
Hinzu kommt, dass Anthropic gerade hochsubventioniertes Compute von Elon Musk bekommen hat, damit Musks Colossus Datacenter – das ist das in Memphis mit den illegalen Methangasgeneratoren – ein wenig mehr ausgelastet ist. Da wundert es niemanden, dass Anthropic auf diesem Wege ein Zeitfenster finden kann, in dem die Zahlen nicht desaströs aussehen. Dadurch, dass er Anthropic Compute Ressourcen zu extrem günstigen (wahrscheinlich nicht kostendeckenden) Konditionen anbietet, übernimmt Elon Musk also quasi zumindest teilweise Anthropics Verluste. Dort kann man mithilfe des Rabatts die Jahresbilanz aufhübschen.
Für die Börsengänge brauchen die „KI“-Unternehmen gerade jede positive Botschaft, um den allgemeinen Unmut über „KI“ und Rechenzentren niederzuringen: „KI“ ist unglaublich unpopulär (in einer Umfrage im März in den USA gar unbeliebter als Donald Trump und ICE). Da braucht es schon ein Wunder, um sicherzustellen, dass der Börsengang läuft wie geplant. Denn das bedeutet, dass es der größte Börsengang aller Zeiten werden muss, sonst würde es als massive Schwäche gewertet. SpaceX’ Börsengang, bei dem die Aktie nach kurzem Run erst mal hart abgestürzt ist, hat da auch Investor*innen vorsichtiger gemacht.
Die „KI“-Firmen brauchen also Presse. Presse, die sicherstellt, dass Menschen glauben, dass „KI“ – also die Systeme, die nach einem Investment und einer PR-Kampagne, wie sie noch nie eine Technologie in der Menschheitsgeschichte bekommen hat, weiterhin nicht zuverlässig funktionieren – „die Zukunft“ darstellt. Und da ist es natürlich gut, sich als „vorsichtig“ und „umsichtig“ darzustellen, um dem Vibe, den die Branche bisher vermittelt hat, entgegenzuwirken.
Aber es gibt noch ein viel direkteres ökonomisches Argument:
Die abflachende Leistungskurve
„KI“-Modelle werden nach irgendwelchen Benchmarks immer besser. Aber praktisch manifestieren sich viele dieser Verbesserungen vor allem in höheren Kosten: Die immer größer werdenden Modelle, die sich zunehmend immer wieder im Kreis aufrufen („reasoning“), verbrauchen immer mehr Ressourcen, für weitgehend ähnliche Leistungsfähigkeit. Denn jede marginale Verbesserung der Modelle kommt mit exponentiellen Kosten, nicht nur bei der Inferenz (also der Nutzung der Modelle), sondern natürlich auch beim Training: Immer größere Modelle zu trainieren, lässt die Entwicklungskosten immer weiter steigen – selbst wenn spezialisierte Chips gewisse Effizienzgewinne mit sich bringen.
Die „KI“-Unternehmen haben also explodierende Kosten für neue Versionen eines Produkts, die sich für die Nutzer*innen nicht massiv besser anfühlen, aber deutlich teurer im Betrieb sind. Das ist in einer eh schon defizitären Branche in der immer mehr Kund*innen ihre „KI“-Ausgaben immer mehr beschränken, ein Problem. Der Markt, den man sich teilen muss, expandiert nicht mehr wie gewettet, sondern zeigt Anzeichen, eventuell sogar kleiner zu werden. Gleichzeitig verteuert sich das eigene Produkt immer weiter. Und wirklich neue Ideen, die echte Qualitätssprünge ermöglichen könnten, hat aktuell keines der „AI“-Labs in der Pipeline.
In der Situation ist die abgestimmte Narration von „wir wollen lieber mal eine Zeit lang keine neuen Modelle trainieren, weil diese zu gefährlich sind“ natürlich nützlich: Man kann sich die teuren Entwicklungskosten eine Weile sparen, um die eigenen Zahlen etwas besser aussehen zu lassen, für den Börsengang. Gleichzeitig hofft man, dass Nvidia oder jemand anderes irgendwelche Effizienzgewinne findet, die das aktuelle Plateau eventuell ökonomisch tragfähig machen (die gute alte „thoughts and prayers“-Businessstrategie).
Spiel auf Zeit
Wenn man es durch eine großangelegte PR-Kampagne noch schaffen könnte, einen regulativen Rahmen zu etablieren, der diese Pause „erzwingt“ und der es ermöglichen könnte, andere Player am Markt auszubremsen, wäre das sogar ein doppelter Gewinn. Insbesondere die chinesischen Anbieter würden nicht unbedingt mitziehen, wären aber vom US-Markt ausgeschlossen, was den US Frontier Labs noch mehr Zeit gäbe. Insbesondere Zeit, um neue, zahlungskräftige Kund*innen wie das Militär, die Geheimdienste und die Polizei zu finden.
Es ist also existenziell für die „KI“-Labs, diese „Pause“ als wichtig zu etablieren – ohne auf die Fakten zu verweisen: Ohne die Pause geht das Geld noch schneller aus und die Blase platzt.
Also lenkt man die Öffentlichkeit mit scheinbar plausiblen Gruselgeschichten ab: „Die KI hüpft einfach auf andere Maschinen, wenn wir sie abstellen wollen!“ Sicher. „KI“-Systeme, die nur auf spezialisierter Hardware in riesigen Rechenzentren laufen, die so viel Strom brauchen wie 'ne Kleinstadt, hüpfen mir heimlich in meinen Laptop und kontrollieren von da die Welt. Was für eine absurde Geschichte.
Die Erzählung von „KI ist so mächtig und gefährlich“ ist mittlerweile die 5. Jahreszeit geworden: Einmal im Jahr kommen „KI“-Bros und erzählen ihre Lieblings-Sci-Fi-Filme nach und wir nicken und machen Talkshows darüber. Wie die Sucker, die wir sind.
Wenn man die Warnungen der „KI“-Bros ernst nehmen würde, müsste man sie alle einsperren. Spielen wir mal eine Analogie durch: Ich mache eine Firma auf, die an Chemiereaktoren forscht. Mein Produkt synthetisiert was auch immer man sich wünscht, mit einer gewissen Wahrscheinlichkeit. Es kann natürlich auch Senfgas entstehen, man weiß es nicht so genau. Diese Reaktoren verteile ich überall in der Stadt, weil dezentrale Chemiereaktoren die Zukunft sind. Meine PR ist aber vor allem, wie die Reaktoren eventuell Senfgas produzieren und Terroristen das natürlich nutzen werden. Mein Start-up wäre innerhalb von Stunden geschlossen und ich hinter Gittern. Nicht zu Unrecht.
Nicht mehr alles glauben
Aber irgendwie ist natürlich auch allen klar, dass der Unterschied zwischen meiner Analogie und dem „KI“-Zeug ist, dass die „KI“-Geschichte weitgehend Humbug ist. Natürlich ist „KI“ nicht ungefährlich. „KI“ Nutzung wirkt sich negativ auf die Fähigkeiten und den Fähigkeitenaufbau von Menschen aus („deskilling“) und nimmt ihnen damit Handlungsfähigkeit und Selbstbestimmung, drängt sie in Abhängigkeit und zerstört durch ihren massiven Ressourcenbedarf die Umwelt. „KI“-Systeme aufs Internet und echte Infrastrukturen loszulassen kann durchaus gefährlich sein – nicht, weil die Systeme so klug sind, sondern weil sie stochastisch operieren ohne Verständnis von Risiken, sodass potenziell eine Menge Schaden entstehen kann. Dabei operieren die „KI“s aber nicht wie ein Geheimagent, sondern eher wie ein Waldbrand.
Aber solange niemand ChatGPT und Konsorten direkt mit Raketenabschussvorrichtungen verbindet, werden „KI“ Systeme die Welt nicht zerstören. Denn LLMs tun ohne Prompts nichts und wenn jemand „KI“ an gefährliche Systeme andockt, ist diese Person das Problem und nicht das LLM. Wenn „die KI“ zum Beispiel Systeme hackt, saß da eben immer ein Mensch, der das (zumindest mittelbar) gepromptet beziehungsweise ausgelöst hat: Das kann definitiv passieren, aber hat nichts mit „autonomer KI“ zu tun. Und für solche Attacken braucht man gar keine besonders fancy Modelle, schon die Generation der vergangenen Jahre war da ausreichend.
Wir müssen wirklich aufhören, den Tech-Bros ihre Stories abzukaufen und ernst zu nehmen. Sie sind keine verlässlichen Kommunikationspartner. Sondern wir müssen diese Geschichten immer wieder hinterfragen. Sonst stehen wir am Ende da wie Elon Musk mit Anthropics Verlusten in den Händen und ohne Wasser, weil die das Datacenter braucht.
Angaben zur ARR korrigiert.
Videos by heise
(rie)
