KI-Krankheit MAD:

Wenn Künstliche Intelligenz krank wird

Von Peter Buxmann, Timo Sturm

Lesezeit: 5 Min.

Häufig wird argumentiert, dass Sprachmodelle im Laufe der Zeit immer besser und potentielle Schwachstellen bald ausgeräumt werden. Dies ist nur zum Teil richtig – in Zukunft werden neue Herausforderungen auf uns zukommen. Ein Gastbeitrag.

TeilenMerkenDrucken

Aber einmal von Anfang an: Generative Künstliche Intelligenz (kurz GenAI für Generative Artificial Intelligence) verändert das Wirtschaftsleben, den Alltag des Einzelnen und die Gesellschaft als Ganzes. Die Grundlage bilden Sprachmodelle, die Texte, Bilder, Musik oder Videos erzeugen. Die Ergebnisse sind einerseits beeindruckend und faszinierend, wenn eine KI beispielsweise ein ganzes Video, preisgekrönte Bilder oder einen Musiktitel auf Basis von Prompts generiert. Studien zeigen Produktivitätsvorteile von GenAI in Unternehmen – die Kosten sind überschaubar und vor allen Dingen gut planbar.

Andererseits hat GenAI auch einige Schwächen, wie zum Beispiel Halluzinationen: Manchmal produziert die KI auch Unsinn und trägt diesen auch noch in überzeugender Sprache vor. Da tiefe neuronale Netzwerke, die den Sprachmodellen zugrunde liegen, in der Regel intransparent sind, bleibt zudem oft unklar, warum sie falsche Inhalte erzeugt haben.

F.A.Z. PRO D:ECONOMY Briefing inklusive FAZ+

F.A.Z. PRO D:ECONOMY Briefing inklusive FAZ+

Erhalten Sie jeden Mittwoch um 8 Uhr das Briefing und regelmäßige Einladungen zu Live-Sessions mit Experten. Zusätzlich können Sie auf alle FAZ+ Artikel zugreifen.

2 Monate kostenfrei testen

MAD – Wenn die KI verrücktspielt

Forscherinnen und Forscher der renommierten Stanford und Rice Universitäten haben eine KI-Krankheit entdeckt: Dabei handelt es sich um die sogenannte „Model Autophagy Disorder“ (kurz: MAD). Sie tritt auf, wenn KI zunehmend aus den von ihr selbst erzeugten Inhalten lernt. Die Abkürzung „MAD“ (englisch für „verrückt“) ist kein Zufall, denn der Name der Krankheit wurde dem tödlichen Rinderwahnsinn (auch bekannt als BSE) entlehnt, mit dem sie einige Gemeinsamkeiten hat: Rinderwahnsinn entstand, weil Rinder aus Kostengründen mit Tiermehl gefüttert wurden, das unter anderem aus Rinderhirn bestand.

Leider war dieses Futter mit Prionen verseucht. Diese führen zu einem allmählichen Zerfall des Gehirns der Rinder, wodurch sie nach und nach verrückt wurden. Ähnlich wie beim Rinderwahnsinn kann der Konsum von Daten aus einem geschlossenen Kreislauf und den darin enthaltenen Fehlern im Lernprozess einer KI zum Zerfall des KI-Modells führen.

Symptome und Ursachen

Ein Symptom von MAD ist, dass die Vielfalt der erzeugten Inhalte abnimmt. Wenn KI neue Inhalte erzeugt, berechnet sie grundsätzlich den statistisch wahrscheinlichsten Output. KI, wie zum Beispiel Sprachmodelle, tendiert daher dazu, vor allem populäre (und damit aber meist korrekte) Antworten zu generieren, während sie seltenere (und damit manchmal kreativere) Antworten weitestgehend vermeidet.

Sam Altman, der Chef von OpenAI, geht bereits davon aus, „dass bald alle Daten KI-generierte Daten sein werden“. Lernt eine solche KI nun von ihren selbst erzeugten Daten, so führt dies dazu, dass sich die KI in der Wahrscheinlichkeit ihrer Antworten immer weiter selbst bestätigt und verstärkt. Während die Generierung wahrscheinlicher Inhalte dadurch noch wahrscheinlicher wird, wird die Generierung weniger wahrscheinlicher Inhalte immer unwahrscheinlicher. Langfristig führt dieser Vorgang zum Verlust der weniger wahrscheinlichen Datenpunkte und damit zu einer abnehmenden Vielfalt der KI-generierten Inhalte. MAD lässt KI schleichend unkreativer werden.

Die folgende Abbildung zeigt diesen Effekt am Beispiel einer KI zur Generierung von handgeschriebenen Zahlen. Zu Beginn ist die KI in der Lage, eine Vielzahl unterschiedlicher Varianten handgeschriebener Zahlen zu erzeugen (linkes Bild). Lernt dieselbe KI immer wieder von ihren selbst generierten handgeschriebenen Zahlen, so wird ihr Output jedoch immer ähnlicher (im Bild von links nach rechts). Schlussendlich ist die KI nur noch in der Lage, Zahlen in einer einzigen Handschrift zu erzeugen (im Bild ganz rechts).

Martínez et al., 2023

Allerdings können auch deutlich drastischere Symptome auftreten, die ein wenig geheimnisvoll sind. Schauen wir uns die folgende Abbildung an: Links sind realistische Bilder von Vögeln zu sehen, die von einer anfangs leistungsfähigen KI generiert wurden. In den restlichen vier Bildern sehen wir von links nach rechts, was passiert, wenn dieselbe KI immer wieder aus den von ihr erzeugten Bildern lernt. Zunächst verlieren die Bilder nach und nach an Details und werden unscharf, bis sie schließlich in einem nicht mehr erkennbaren Pixelrauschen enden. Die KI hat allein durch den Selbstkonsum ihrer selbst generierten Bilder verlernt, wie sie neue Bilder von Vögeln generieren kann, und ist letztendlich unbrauchbar geworden.

Martínez et al., 2023)

Warum KIs, die übermäßig aus selbst generierten Daten lernen, an MAD erkranken, ist noch nicht abschließend geklärt. Die bisherige Forschung geht davon aus, dass MAD durch verschiedene Verzerrungen statistischer Wahrscheinlichkeiten im KI-Modell entsteht, die unterschiedliche Ausprägungen der Erkrankung begünstigen. Eine starke Ausprägung dieser Verzerrungen kann schließlich, wie im obigen Vogelbeispiel, die KI völlig unbrauchbar machen und damit zerstören.

Folgen für Gesellschaft, Wirtschaft und Politik

Bereits heute sind Veränderungen in den im Netz verfügbaren Texten zu beobachten. So häufen sich bestimmte Wörter und Satzbausteine, die vor der Einführung von ChatGPT deutlich seltener verwendet wurden.

Dies hat vielfältige Auswirkungen auf Wirtschaft und Gesellschaft. So sollten Unternehmen eine zu starke Abhängigkeit von GenAI oder KI vermeiden. Das bedeutet nicht, dass sie auf den Einsatz verzichten sollten. Im Gegenteil: Mitarbeitende sollten KI als Werkzeug nutzen, weiterhin eigene Ideen und Inhalte einbringen, die Ergebnisse aber stets kritisch hinterfragen. In den meisten Fällen wird diese Form der gemeinsamen Nutzung zu großen Produktivitätsvorteilen führen.

Vielleicht noch gravierender als die betriebswirtschaftliche Perspektive sind die gesellschaftlichen Auswirkungen: Sprachmodelle werden zukünftig von immer mehr Menschen genutzt werden. Was aber, wenn die KI erkrankt und beginnt, immer die gleichen Inhalte zu produzieren? Die Folge könnte sein, dass Diversität und Meinungsvielfalt auf der Strecke bleiben. Schon heute zeigen Studien, dass ChatGPT dazu neigt, „grün-linke“ Einstellungen zu vertreten. Ebenso wäre es möglich, dass in Zukunft vermehrt politisch rechte Inhalte von Sprachmodellen aufgenommen werden – insbesondere, wenn rechte Parteien weiterhin stark in sozialen Netzwerken vertreten sein sollten.

Wie lassen sich diese negativen Folgen vermeiden? Hier sind in erster Linie die Anbieter gefragt. Hersteller von KI-Modellen müssen darauf achten, ihre Modelle nicht mit zu viel KI-generiertem Inhalt zu trainieren. Dies ist allerdings gar nicht so einfach, denn KI-generierte Inhalte sind nicht so leicht zu erkennen. Zudem gilt natürlich auch, dass Anbieter für ausgewogene Inhalte sorgen sollten. Das erfordert die Nutzung diverser Trainingsdaten, aber natürlich können die Ergebnisse von Sprachmodellen auch algorithmisch beeinflusst werden.

Sprachmodelle sind eine Black Box, die für Nutzer und Entwickler einige Überraschungen bereithält. Manchmal funktionieren sie atemberaubend gut, manchmal sind ihre Ergebnisse jedoch enttäuschend – und jetzt wissen wir, dass sie auch krank werden können. Anbieter solcher KI-Modelle, Politik, Wirtschaft und Wissenschaft sowie Bürgerinnen und Bürger sollten dies bei der Nutzung und Regulierung von KI stets im Blick behalten. Sprachmodelle sind und bleiben ein wenig geheimnisvoll und haben viele erstaunliche Fähigkeiten erlernt. Doch wenn sie krank werden, können sie sich nicht selbst heilen.

Quelle: Martínez, G., Watson, L., Reviriego, P., Hernández, J.A., Juarez, M., Sarkar, R. (2024). Towards Understanding the Interplay of Generative Artificial Intelligence and the Internet. In: Cuzzolin, F., Sultana, M. (eds) Epistemic Uncertainty in Artificial Intelligence. Lecture Notes in Computer Science, vol 14523. Springer, Cham. https://doi.org/10.1007/978-3-031-57963-9_5

Professor Dr. Peter Buxmann

Peter Buxmann lehrt Wirtschaftsinformatik an der Technischen Universität Darmstadt und ist als Aufsichtsrat, Senior Advisor, Podcaster und Gründer tätig. Seine Forschungsschwerpunkte sind Anwendungen der Künstlichen Intelligenz, die Digitalisierung von Wirtschaft und Gesellschaft sowie die Zukunft der Digitalen Arbeit.

Bild: Privat