Chatbots noch nicht als Ersatz für Suchmaschinen bereit
Tech-Unternehmen wollen Informationen als mundgerechte Häppchen über KI-basierte Sprachmodelle ausgeben. Kritiker halten das für den falschen Ansatz.
(Bild: dpa, Lukas Schulze/dpa)
- Will Douglas Heaven
Letztes Jahr stellte Google-Geschäftsführer Sundar Pichai "den neuesten Durchbruch im Bereich natürliches Sprachverstehen" auf der jährlichen Show "Google I/O" vor: einen Chatbot namens LaMDA, der in der Lage ist, sich über jedes Thema zu unterhalten. Er führte vor, wie LaMDA Fragen über Pluto in natürlicher Sprache beantworten kann. Der Austausch zeigte eine bequeme Möglichkeit, Informationen zu erhalten – eine Alternative zur Websuche. Anstatt als Antwort auf eine Frage in einem Suchfeld Ergebnisse aufzulisten, nahm LaMDA an der Konversation teil, indem es die Rolle des Zwergplaneten spielte.
"Pichai: Sag mir, was ich sehen würde, wenn ich den Zwergplaneten besuchen würde.
LaMDA: Du würdest einen riesigen Canyon, einige gefrorene Eisberge, Geysire und einige Krater sehen.
Pichai: Das klingt wunderschön.
LaMDA: Ich versichere dir, dass es die Reise wert ist. Du müsstest allerdings eine Jacke mitnehmen, denn es wird sehr kalt."
Videos by heise
Es war niedlich, auch wenn LaMDA ein paar Fehler machte. Das zugrundeliegende KI-Sprachmodell befindet sich laut Pichai noch in der Entwicklung. Zudem hat Google nach eigenen Angaben noch keine Pläne, LaMDA in seinen Produkten einzusetzen. Dennoch nutzt das Unternehmen LaMDA, um neue Wege der Interaktion mit Computern zu erforschen, und neue Wege, um nach Informationen zu suchen. "LaMDA versteht bereits eine ganze Menge über Pluto und Millionen anderer Themen", sagte Pichai.
Die Vision einer allwissenden KI, die relevante und genaue Informationen in leicht verständlichen, mundgerechten Häppchen ausgibt, prägt die Art und Weise, wie Technologieunternehmen die Zukunft der Suche angehen. Und mit dem Aufkommen von Sprachassistenten wie Siri und Alexa werden Sprachmodelle zur bevorzugten Technologie für die Suche nach Informationen im Allgemeinen.
Doch Kritiker wehren sich mit dem Argument, dass dieser Ansatz falsch ist. Wenn man Computern eine Frage stellt und eine Antwort in natürlicher Sprache erhält, kann sich die Komplexität hinter einem Anschein von Autorität verbergen, die unverdient ist. "Wir haben uns zu sehr damit beschäftigt, was wir tun könnten, und nicht damit, was wir tun sollten", sagt Chirag Shah von der University of Washington, der an Suchtechnologien arbeitet.
Mehr Fehlinformationen und stärkere Polarisierung
Am 14. März kritisierten Shah und seine Kollegin Emily Bender von der University of Washington, die sich mit Computerlinguistik und ethischen Fragen der Verarbeitung natürlicher Sprache befasst, in einer Veröffentlichung die ihrer Meinung nach übereilte Verwendung von Sprachmodellen für Aufgaben, für die sie nicht konzipiert sind. Insbesondere befürchten sie, dass die Verwendung von Sprachmodellen für die Suche zu mehr Fehlinformationen und einer stärker polarisierten Debatte führen könnte.
"Die Star-Trek-Phantasie, in der man einen allwissenden Computer hat, dem man Fragen stellen kann und der einem einfach die Antwort gibt, ist nicht das, was wir bieten können und was wir brauchen", sagt Bender. Sie war Mitautorin eines anderen Artikels, der zur Entlassung von Timnit Gebru bei Google geführt hatte und in der die Gefahren großer Sprachmodelle aufgezeigt wurden.
Es gehe nicht nur darum, dass die heutige Technologie der Aufgabe nicht gewachsen ist. "Ich glaube, dass mit der Vision etwas nicht stimmt", sagt sie. "Es ist infantilisierend zu sagen, dass wir Informationen nur bekommen, wenn wir einen Experten fragen und er sie uns einfach gibt."
Google verwendet bereits Sprachmodelle, um seine bestehende Suchtechnologie zu verbessern und Nutzeranfragen genauer zu interpretieren. Einige sind jedoch der Meinung, dass Sprachmodelle dazu verwendet werden könnten, die Art und Weise, wie die Suche durchgeführt wird, zu überarbeiten. LaMDA ist nur ein Beispiel dafür.
Gespräch zwischen Nutzer und Sprachmodell
Letztes Jahr schlugen der Google-Forscher Don Metzler und seine Kollegen vor, dass die Suche als ein zweiseitiges Gespräch zwischen Nutzer und Sprachmodell neu konzipiert werden könnte, bei dem Computer Fragen ähnlich wie ein menschlicher Experte beantworten. Google entwickelt auch eine Technologie namens Multitask Unified Model (MUM). Es baut auf einem Sprachmodell auf und soll die Anfragen der Nutzerinnen und Nutzer beantworten, indem es Informationen aus verschiedenen Quellen zusammenführt.
"Wir sind sehr daran interessiert, das Sprachverständnis zu verbessern, weil dadurch Produkte wie die Google-Suche für die Menschen nützlicher werden", sagt Jane Park, Kommunikationsmanagerin im Google-Suchteam. Doch Google habe noch keine Pläne, diese neue Forschung in Produkte umzusetzen: "Wir sind uns einig, dass es beim Sprachverständnis noch eine Reihe offener Herausforderungen gibt, weshalb wir insgesamt einen sehr vorsichtigen Ansatz verfolgen."
Gedankenlose Nachahmung durch Sprachmodelle
Große KI-Modelle können die natürliche Sprache mit bemerkenswertem Realismus imitieren. Da sie auf Hunderte von Büchern und einen Großteil des Internets trainiert wurden, nehmen sie große Mengen an Informationen auf – so lautet zumindest die Überlegung dahinter. Warum sollte man sie nicht als eine Art Suchmaschine einsetzen, die Antworten aus mehreren Quellen zusammenfassen und die Informationen in leicht verständliche Sätze verpacken kann?
Das Problem ist, dass Sprachmodelle gedankenlose Nachahmer sind. Sie können verblüffend genau die Wörter oder Ausdrücke vorhersagen, die in einem Satz oder einer Unterhaltung als nächstes kommen werden. Aber trotz Pichais beiläufiger Behauptung, dass seine KI viele Themen "versteht", wissen Sprachmodelle nicht, was sie sagen, und können keine Schlüsse darüber ziehen, was ihre Worte bedeuten.
Das ist wichtig, weil KI die Art und Weise, wie wir über den Austausch mit einer Maschine denken, verändern kann. Wenn man eine Suchanfrage in ein Feld eintippt und eine Liste von Antworten erhält, fühlt es sich an, als würde man mit einem Computer interagieren, sagt Bender. Aber bei Sprachmodellen ist das anders. "Wenn ich stattdessen ein Gespräch mit einer Maschine führe, dann ist die Metapher, dass die Maschine versteht, was ich sage", sagt sie. "Und in diesem Kontext werde ich die Antworten der Maschine interpretieren.“ Man sehe bereits, dass Nutzer unkritisches Vertrauen in Suchergebnisse setzen, sagt Shah, und "natürlich-sprachliche Interaktionen machen das noch deutlicher".
Weiterentwicklung der Snippets
Die Idee, mit KI Antworten auf Suchanfragen zu synthetisieren und zu verpacken, ist Teil eines Trends, der mit der Verwendung von so genannten Direktantworten oder Snippets begann. Das sind einzelne Antworten oder kurze Auszüge, die über Links zu Dokumenten in Suchergebnissen angezeigt werden. Theoretisch können diese die gesuchten Informationen auf einen Blick liefern und ersparen den Nutzern die Mühe, längere Dokumente zu lesen, um sie selbst zu finden.
Bender ist nicht in jedem Fall gegen den Einsatz von Sprachmodellen für den Frage-Antwort-Austausch. Sie hat einen Google Assistant in ihrer Küche, den sie für die Umrechnung von Maßeinheiten in einem Rezept verwendet. "Es gibt Momente, in denen es super praktisch ist, per Sprache auf Informationen zuzugreifen", sagt sie.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Die Schwierigkeit, die Komplexität der Welt abzubilden
Shah und Bender nennen aber auch ein beunruhigendes Beispiel, das im letzten Jahr auftauchte, als Google auf die Frage "Was ist die hässlichste Sprache in Indien?" mit dem Satz antwortete: "Die Antwort ist Kannada, eine Sprache, die von rund 40 Millionen Menschen in Südindien gesprochen wird."
Keine einfachen Antworten
Und hierin steckt ein Dilemma. Direkte Antworten mögen bequem sein, aber sie sind auch oft falsch, irrelevant oder beleidigend. Sie können die Komplexität der realen Welt verbergen, sagt Benno Stein von der Bauhaus-Universität in Weimar. In 2020 veröffentlichten Stein und seine Kollegen Martin Potthast von der Universität Leipzig und Matthias Hagen von der Martin-Luther-Universität Halle-Wittenberg einen Fachartikel, der die Probleme mit direkten Antworten aufzeigt. "Die Antwort auf die meisten Fragen lautet 'Es kommt darauf an'", sagt Matthias. "Es ist schwierig, dem Suchenden DAS zu vermitteln."
Stein und Kollegen sind der Ansicht, dass sich die Suchtechnologien einen Schritt zu weit entwickelt haben: vom Organisieren und Filtern von Informationen durch eine Dokumentenliste, die einer Suchanfrage entsprechen, hin zu Empfehlungen in Form einer einzigen Antwort auf eine Frage.
Auch hier liegt das Problem nicht in den Grenzen der bestehenden Technologie. Selbst mit einer perfekten Technologie würden wir keine perfekten Antworten erhalten, sagt Stein: "Wir wissen nicht, was eine gute Antwort ist, weil die Welt komplex ist, aber wir hören auf, das zu denken, wenn wir diese direkten Antworten sehen".
Shah stimmt dem zu. Den Menschen eine einzige Antwort zu geben, kann problematisch sein, weil die Quellen dieser Informationen und etwaige Meinungsverschiedenheiten zwischen ihnen verborgen bleiben, sagt er: "Es hängt wirklich davon ab, dass wir diesen Systemen völlig vertrauen."
Shah und Bender schlagen eine Reihe von Lösungen für Probleme vor, die sie erwarten. Generell sollten Suchtechnologien die verschiedenen Wege unterstützen, auf denen Menschen heute Suchmaschinen nutzen – von denen viele nicht durch direkte Antworten bedient werden. Die Menschen nutzen die Suche oft, um Themen zu erforschen, zu denen sie vielleicht nicht einmal konkrete Fragen haben, sagt Shah. In diesem Fall wäre es sinnvoller, einfach eine Liste von Dokumenten anzubieten.
Transparenz bei Quellenangabe
Es muss klar sein, woher die Informationen stammen, vor allem wenn eine KI Teile aus mehr als einer Quelle bezieht. Einige Sprachassistenten tun dies bereits, indem sie einer Antwort zum Beispiel den Satz "Das habe ich bei Wikipedia gefunden" voranstellen. Zukünftige Suchwerkzeuge sollten auch die Möglichkeit haben, zu sagen: "Das ist eine dumme Frage", sagt Shah. Damit würde die Technologie vermeiden, dass beleidigende oder voreingenommene Prämissen in einer Anfrage nachgeplappert werden.
Stein schlägt vor, dass KI-basierte Suchmaschinen ihre Antworten begründen und die Vor- und Nachteile verschiedener Standpunkte aufzeigen könnten.
Viele dieser Vorschläge unterstreichen jedoch nur das Dilemma, das Stein und seine Kollegen erkannt haben. Alles, was die Bequemlichkeit verringert, wird für die Mehrheit der Nutzerinnen und Nutzer weniger attraktiv sein. "Wenn man sich nicht bis zur zweiten Seite der Google-Ergebnisse durchklickt, wird man auch keine anderen Argumente lesen wollen", sagt Stein.
Google ist sich nach eigenen Angaben vieler der von den Forschern aufgeworfenen Fragen bewusst und arbeitet daran, Technologien zu entwickeln, die von den Menschen als nützlich empfunden werden. Aber Google ist der Entwickler eines Multimilliarden-Dollar-Dienstes. Letztendlich wird das Unternehmen die Werkzeuge entwickeln, die die meisten Menschen ansprechen. Stein hofft, dass es trotzdem nicht nur auf die Bequemlichkeit ankommt. "Suchen ist so wichtig für uns, und für die Gesellschaft", sagt er.
(vsz)
