Google wird unter Einfluss generativer KI unzuverlässig

Artikel von Jan Wiele

• 3 Std. •

5 Minuten Lesezeit

class="article-body polished" style="font-size: 17px; text-align: start; line-height: 26px; margin: 0px; --colorNeutralForeground1: #ffffff; --colorNeutralForeground4: #999999; color: rgb(255, 255, 255); font-weight: 400; max-height: 100%; overflow-y: hidden;"

Google ist zum Inbegriff einer Suchmaschine geworden. Aber was findet man dort, Fakten oder Fiktion?© dpa

Gestern war es wieder so weit. Der Blick fiel auf die Überschrift eines Internetmediums, das der Computerbrowser von selbst anzeigt. Dort stand: „Trump ernennt Wellness-Influencer zum US-Chirurgengeneral.“ Was ein Wellness-Influencer ist, kann man sich einigermaßen vorstellen, doch was macht ein Chirurgengeneral? Man malt sich schon einen besonders widerwärtigen Kriegsverbrecher aus, aber die Lösung ist eine andere. Es handelt sich um die falsche Übersetzung eines wichtigen Amtes in den Vereinigten Staaten: um das des „surgeon general“; des obersten Sanitätsinspekteurs. Die dafür bestimmte Person, Casey Means, ist zudem eine Frau und muss in dem Amt noch vom Kongress bestätigt werden.

Nun gut, Fehler passieren, bei Maschinen wie bei Menschen. Was nur nervt: Sie passieren den Maschinen oft, und das macht auch die Menschen noch fehleranfälliger. Man sucht ein antiquarisches Buch auf Ebay, es werden haarsträubende Titel angeboten, erzeugt durch falsche automatische Übersetzung (Franz Kafka: „Die Burg“, Thomas Mann: „Joseph, der Anbieter“). Man sucht nach Fußballergebnissen, es werden mehrere Spiele in einer Liga angezeigt, alle mit der Bezeichnung „Finale“, gemeint ist „Endstand“. Man schaut ein Interview auf Youtube, das automatisch untertitelt wird. Edward Norton spricht über seine Filmrolle als Pete Seeger: „He eschewed money, he eschewed fame.“ („Er mied Geld und Ruhm.“) Die Untertitel sagen: „He issued money.“ Pete Seeger, der notorische Antikapitalist, hat das Geld in Umlauf gebracht. Vielleicht steht morgen im Internet, dass er es gedruckt hat?

Manche nennen es Lügenmaschine

Wer jetzt denkt: „Ist ja nur Kultur“, würde vielleicht dagegenhalten mit Beispielen von selbstfahrenden Autos, Tumorerkennung und Drohnenkrieg. Denn auf diesen Gebieten läuft ja automatisiert alles spitze. Ebenso bei den jetzt beliebten Sprachmodellen generativer KI. Oder Moment, war da nicht auch was?

Ausgerechnet die, die sich mit generativer Künstlicher Intelligenz auskennen, räumen selbst bei Vorträgen darüber oft ein, dass die KI die Unterscheidung von wahr und falsch leider noch nicht so ganz auf die Reihe kriege. Fest etabliert binnen kurzer Zeit hat sich so der Begriff der „halluzinierenden KI“. Manche drücken es auch härter aus und sprechen von Lügenmaschinen.

Ohne Rücksicht auf geistiges Eigentum und Gewähr auf Richtigkeit

Die sogenannte Intelligenz, die einige Menschen bewusst noch immer nicht als solche bezeichnen wollen, kann, das muss man zugeben, aus dem Material, mit dem sie „trainiert“ wird, ganz Erstaunliches neu zusammensetzen: Gedichte, die nach Rilke klingen, Songs in bestimmten Genres oder mit bekannten Stimmen, die täuschend echt klingen, maßgeschneiderte Bewerbungsanschreiben und sogar Sachbücher. Freilich alles ohne Rücksicht auf geistiges Eigentum und ohne Gewähr auf Richtigkeit. Es gibt auch Sprachmodelle, die Falsches sagen und dann bei Nachfrage abstreiten, getäuscht zu haben, wie eine Forschungsgruppe an der Universität Tübingen jüngst nachgewiesen hat. Die unheimlich-schleimige „Standardpersönlichkeit“ des Bots ChatGPT4 musste nach Kritik daran umprogrammiert werden.

Aber man muss gar nicht die weitreichenden Fragen nach einem „Bewusstsein“, nach Autonomie der KI und nach ihren Risiken mit Horrorszenarien wie in den „Terminator“-Filmen stellen, um zu sehen, welchen Schaden diese Technik schon jetzt im Alltag anrichtet.

Ohne rot zu werden

Ob damit die Urheberrechtsverletzungen gemeint sind, die KI serienmäßig millionenfach begeht? Oder Menschen, deren Ansehen durch Deepfakes zerstört wird? Analysten, Programmierer, Designer und Übersetzer, deren Arbeit die KI ersetzt, vielleicht doch nicht immer zu deren Freude, obwohl dies ständig gepriesen wird?

Nein, gemeint ist eine neue, bestürzende Unzuverlässigkeit. Es ist ein entscheidender Schritt, dass die größte Suchmaschine unserer Zeit, vielleicht der Inbegriff von Suchmaschine, nämlich Google, auch in Deutschland seit einigen Wochen bei Fragen an sie zuoberst eine „Übersicht mit KI“ ausspuckt. Also keinen Link zu einer Quelle, sondern einen automatisch von der KI „Gemini“ generierten Text. Der erweckt den Anschein, er stamme aus einem Lexikon, darunter steht allerdings ein Warnhinweis: „KI ist experimentell.“ Das ist Deutsch und bedeutet so viel wie: Glaube bloß nicht, was du hier liest, es kann auch totaler Quatsch sein. Ist es in vielen Fällen auch, wie jeder weiß, der eine Zeit lang mit den Softwareprodukten sogenannter „großer Sprachmodelle“ hantiert hat. Sie antworten den größten Mist, ohne rot zu werden.

„Jeht allet“: typisch Hessisch?

Bei der Suche nach einem berlinerischen Ausdruck aus einem Filmklassiker schlüsselte die Google-KI die einzelnen Wörter auf. Da stand: „‚Det‘ ist neutrale Form von ‚die‘.“ Hä? „‚Jeht‘ ist die hessische Form von ‚geht‘.“ Und: ‚‚Allet‘ ist die hessische Form von ‚alles‘.“ – Na, das sind doch echt mal News, und, liebes Google, womöglich wirst du uns bald auch erzählen, John F. Kennedy habe gesagt: „Ick bin ein Frankfurter“!

„Googeln“ war bis vor Kurzem ein Synonym für das Nachschlagen im Lexikon der Wirklichkeit. Nun wird es zum Nachschlagen im Lexikon der Phantasie. Als Recherche-Instrument für verlässliche Informationen fällt Google mit „Gemini“ definitiv aus.

Beruhigend für Entwickler, nicht gut genug für Nutzer

Nun mag man einwenden, wie häufig die KI schon richtig liege und dass sie doch immer besser werde. Das mag beruhigend für Entwickler sein, es ist aber nicht gut genug für die Nutzer eines Mediums, das für viele Menschen auf der Welt den wichtigsten Zugang zu Informationen darstellt. Wenn selbst Computerexperten angesichts generativer KI ständig betonen, man solle ihr nicht blind vertrauen und es brauche menschliche Einordnung in einen Kontext, um ihre Antworten zu überprüfen, was bedeutet das für alle, die über das Kontextwissen nicht verfügen? Wie sollen sie wahr und falsch unterscheiden? Was, wenn die Maschine nicht nur Hessisch und Berlinerisch verwechselt, sondern Nord- und Südpol? Rechts und links? An und aus? Bei der Übertragung der Fehlerhaftigkeit in andere Lebensbereiche, die von KI gesteuert werden, müsste jedem angst und bange werden. Und alle Menschen werden schnell Gebiete finden, in denen ihnen jegliches Kontextwissen fehlt und die KI das Blaue vom Himmel lügen könnte, ohne dass sie es merken. Damit ist man noch immer nicht in der Welt von „Terminator“, aber schon einen Schritt näher an der verkehrten Welt aus George Orwells „1984“, in der die Wahrheit jederzeit verändert werden kann.

Was das für Folgen hat in Bildungs-, aber auch in lebenspraktischen Fragen, für Kinder und andere, denen entscheidendes Kontextwissen fehlt oder die gerade dabei sind, es durch KI zu ersetzen, ist vielleicht noch gar nicht zu ermessen. Längst häufen sich Berichte wie jener aus dem „New York Magazine“ von vergangener Woche, laut dem selbst Absolventen von Hochschulen ihren Abschluss mit KI erschummelt haben und im Grunde „Analphabeten“ sind.

Der Albtraum des Journalismus

Es hilft nicht viel, dass man umgekehrt auch hört, manche Lehrkräfte machten die Lernenden durch vergleichende Recherche in etablierten Wissensmedien einerseits und mittels Sprachmodellen andererseits auf die Defizite der KI aufmerksam. Denn gegen das Habituelle des Googelns im Alltag wird gar nicht anzukommen sein, dazu hat es sich in aller Welt viel zu sehr etabliert, und längst benutzen viele Chatbots statt Google. Hinzu kommt, dass die Einordnung der generativen KI ganz oben in der Trefferliste bei Google zu deutlich weniger Aufrufen der Treffer aus darunter gezeigten Quellen führt (deren Verlässlichkeit und Aussagekraft freilich auch unterschiedlich sein kann und durch Kontextwissen eingeordnet werden muss). Es ist die Rede von einem „traffic-destroying nightmare“, der zu allem Übel auch noch die wirtschaftlichen Nöte von Qualitätsmedien vergrößert und den Journalismus bedroht.

Das Ausschalten der KI-gestützten Suche bei Google ist freilich möglich. Vielleicht werden irgendwann (wieder) mehr Menschen erkennen, dass solche Quellen, die sich durch Expertenwissen auszeichnen und die durch Lektorats- und Redaktionsprozesse als kuratiert gelten können, verlässlicher sind als die Produkte von Algorithmen. Ob es dazu kommt, wird nicht zuletzt eine Frage der Erziehung sein, auch der Selbsterziehung. Bis dahin heißt es: Guten Morgen, Herr Chirurgengeneral!