Die wahren Kosten der Künstlichen Intelligenz

Artikel von Christian R. Ulbrich

• 2 Std. • 6 Minuten Lesezeit

class="article-body" style="font-size: 17px; text-align: start; line-height: 26px; margin: 0px; max-height: 100%; overflow-y: hidden;"

Die Nutzung von KI: An deutschen Universitäten gehört der Umgang mit KI zur Tagesordnung. Wie sollten wir damit umgehen?© dpa

An kritischen Stimmen zum Thema KI herrscht derzeit wahrlich kein Mangel. Nimmt man die Flut von Beiträgen einmal genauer unter die Lupe, lassen sich zwei grundsätzliche Arten von Kritikern und Mahnerinnen unterscheiden: Die eine Fraktion nimmt die kurzfristigen Folgen ins Visier, die andere die langfristigen. Übersehen werden die mittelfristigen Folgen. Dabei werden sie die gravierendsten Probleme und die größten Kosten verursachen.

Die übergeordnete Aufgabe von KI – Fachleute sprechen häufig lieber von maschinellem Lernen – ist es, menschliche Tätigkeiten, Entscheidungen oder Bewertungen durch algorithmische Entscheidungen oder Urteile zu ersetzen. Dafür analysiert eine KI meist Trainingsdaten auf raffinierte Weise, um in ihnen Muster zu erkennen und das in den Daten implizite Wissen aufzudecken. Oft wendet die KI dieses Wissen direkt an, indem sie konkrete Empfehlungen gibt, denen die Menschen fast immer folgen. Dieses Phänomen wird von Psychologen als „Automation Bias“ bezeichnet. Oder indem sie die menschliche Tätigkeit gleich ganz selbst ausführt. Menschliche Aufgaben werden also von einer KI digital automatisiert. Infolge dieses Transfers vom Menschen zur Maschine kann es zu verschiedenen unerwünschten Konsequenzen kommen.

Die möglichen kurzfristigen Folgen sind die offensichtlichsten: Aufgrund von statistischen Verzerrungen oder ungenügenden Modellen können etwa einzelne Personen oder Personengruppen diskriminiert werden. Fehlende Transparenz und mangelnde Nachvollziehbarkeit von KI-Entscheidungen können Vertrauen untergraben und zu unvorhergesehenen Fehlern führen. Im Zusammenhang mit den Trainingsdaten müssen oft Urheberrechtsfragen und fundamentale Verteilungsfragen geklärt werden. Gleiches gilt für ethische Dilemma oder etwa den Einsatz von KI im Krieg. Auf diese leicht zugänglichen und ganz konkreten Fragestellungen haben sich Politiker, Sozialwissenschaftler, Medien und NGOs primär gestürzt. Das ist auch wichtig und gut so.

Spürbare Konsequenzen für die gesellschaftliche Entwicklung

Die ebenfalls viel diskutierten langfristigen Folgen sind eher abstrakter Natur. So werden etwa (auf falschen Annahmen basierende) Ängste vor Massenarbeitslosigkeit geschürt. Oder gleich die Überflüssigkeit von menschlichen Entscheidungen prognostiziert und eine Machtübernahme durch KI-Systeme unter dem Stichwort Singularität wahlweise als Teufel an die Wand gemalt oder als erstrebenswertes Ziel ausgegeben. Diese Art von Diskussionen ist die bevorzugte Domäne der Informatiker und der Technologieelite aus dem Silicon Valley.

Eine dritte Kategorie von Folgen des unüberlegten massenhaften Einsatzes von KI kommt indes im Diskurs zu kurz, weil sie weniger konkret und daher schwerer zu greifen sind. Doch die Chancen stehen gut, dass sie mittelfristig für die spürbarsten Konsequenzen für unsere gesellschaftliche Entwicklung und unsere Position im globalen Wettbewerb sorgen wird. Hier sind insbesondere zwei Risiken zu nennen.

Zunehmende Zentralisierung

Erstens kommt es durch den Transfer von Entscheidungen und Tätigkeiten auf Maschinen zwangsläufig zu einer weiteren Zentralisierung von Macht und Einfluss, die sich immer stärker auf eine Instanz konzentrieren. Entscheidungen, die bisher von vielen verschiedenen Mitarbeitenden von Tag zu Tag dezentral getroffen wurden, werden nun durch ein KI-System gebündelt. Diese Verschiebung ist fast immer auch dann bedeutsam, wenn die Mitarbeitenden bisher weisungsabhängig waren oder anhand Standards und Checklisten tätig geworden sind. Denn einen individuellen, von der Führung kaum kontrollierbaren Entscheidungsraum gibt es fast immer.

Ein KI-System hingegen wird nur von einigen wenigen kontrolliert und gesteuert, etwa durch die Auswahl der Trainingsdaten oder des Designs und der Art der Implementierung des jeweiligen Algorithmus. Das gilt im Übrigen auch für künstliche neuronale Netzwerke. Selbst bei ihnen kann „top down“ jederzeit in das Modell, etwa über das Anpassen von Gewichtungen, steuernd eingegriffen werden. Das verschafft der obersten Instanz oder der zuständigen IT-Abteilung wesentlich mehr Einfluss. Mit der Zeit kann es zu einer unerwünschten Ballung von Macht kommen – wie die großen Internetunternehmen derzeit schon sehr plastisch vor Augen führen. Digitale KI-Systeme sind daher von Grund auf viel anfälliger für Machtmissbrauch jeglicher Art. Aber auch kleinere Manipulationen und die gezielte Beeinflussung der Nutzenden lassen sich deutlich leichter umsetzen.

KI ist konservativ

Zweitens ist nur wenigen klar, dass eine KI im Herzen konservativ ist. Das ist bemerkenswert, weil es so kontraintuitiv ist – schließlich gelten Künstliche Intelligenzen derzeit als der Inbegriff von Fortschritt. Die Möglichkeit von automatisierten Anpassungen über neue Trainingsdaten, also etwa ein eingebauter Mechanismus zur Aktualisierung, stellt in der Tat eine merkliche Verbesserung gegenüber den starren, expliziten Regeln klassischer Algorithmen dar. Allerdings wird im Zuge der Dateneuphorie oft unterschätzt, dass Daten ausschließlich Informationen und Vorgänge aus der Vergangenheit beinhalten. Datenbasierte Ansätze erlauben es zwar, flexibel auf ungewohnte Situationen zu reagieren, allerdings tun sie das stets mit Mustern, die sie aus der Vergangenheit gelernt haben.

Natürlich lässt sich aus vergangenen Daten sehr viel lernen – jedoch nur, wenn die Welt sich nicht verändert, wenn also sowohl die Umstände, welche die Grundlage unserer Entscheidungen und Tätigkeiten bilden, als auch die Ziele gleich bleiben, die wir erreichen wollen. Eine primär datenbasierte digitale Transformation gibt dem Status quo sehr viel mehr Gewicht und könnte auf Dauer die Weiterentwicklung der Gesellschaft und die Innovationskraft der Wirtschaft hemmen. Bewusste Abweichungen von der Praxis der Vergangenheit, insbesondere solche Abweichungen, die vor allem auf menschlichen Werturteilen, menschlicher Vorstellungskraft oder auch auf dem Zufall basieren, werden im Zuge der digitalen Automatisierung erschwert.

KI-Systeme werden immer den effizienteren Weg wählen

KI-Systeme können nach aktuellem Stand der Technologie überzeugend den Eindruck vermitteln, etwas Neues zu schaffen, indem sie vorhandenes Wissen ungewohnt kombinieren. Eine Neukombination vorhandenen Wissens kann kurzfristig sehr nützlich und effizienzsteigernd sein. Aber sie ist eben nicht wirklich neu. Mittelfristig besteht das Hauptproblem darin, dass datenbasierte KI-Systeme nicht wirklich experimentieren. Sie produzieren Ergebnisse auf Grundlage früherer Entscheidungen und optimieren diese immer weiter. Suboptimale Entscheidungen werden direkt verworfen, auch wenn sie sich später – etwa im Falle geänderter Umstände oder Ziele – als deutlich besser herausstellen könnten.

KI-Systeme werden immer den effizienteren Weg wählen, anstatt zu versuchen, einen neuen zu finden. Plakativ gesprochen, hätte eine KI nie eine Dampfmaschine erfunden, sondern die Nutzung der Kraft von Pferden, Rindern und Eseln immer weiter optimiert. Möchte man experimentieren und völlig neue Wege einschlagen, hat man gerade keine historischen Daten, auf die man seine Entscheidung basieren oder mit denen man sie rechtfertigen könnte.

Zudem verstärkt sich dieses Problem mit der Zeit. Denn je länger Entscheidungen von KI-Systemen getroffen werden, desto größer wird der Anteil an maschinellen Entscheidungen in den Trainingsdaten. Die Trainingsdaten werden mit der Zeit also immer homogener. Dadurch sinken die Verhaltensvielfalt und Variabilität in den Trainingsdaten konstant und verstärken fortwährend den konservativen Charakter des Outputs. Je mehr wir menschliche Entscheidungen mit Künstlichen Intelligenzen automatisieren, desto stärker schränken wir die Fähigkeit unserer sozialen Systeme zu echtem Fortschritt und fundamentalen Anpassungen in Form von völlig Neuem ein. Das wäre fatal. Denn gerade Wissen und Innovation sind die verbliebenen Vorteile des an Ressourcen und Energieträgern armen Europas im globalen Wettbewerb.

Natürlich ist diese Entwicklung nicht zwangsläufig. Aus den Risiken zu schlussfolgern, auf KI ganz zu verzichten, ist offensichtlich der falsche Weg. Vielmehr gilt es, sich der Probleme bewusst zu sein und sie gezielt zu minimieren. Die unerwünschten Folgen einer zu starken Zentralisierung lassen sich etwa vermeiden, indem man bewusst auf Skalierung verzichtet und anstelle großer zentraler Systeme viele kleinere Systeme ausrollt. Damit das praktikabel wird, ist es aber unumgänglich, Standards, Protokolle und Schnittstellen zu etablieren, die den reibungslosen Austausch zwischen den verschiedenen Systemen ermöglichen.

Darüber hinaus können begrenzte menschliche Hoheitsbereiche in strategisch wichtigen Gebieten definiert werden, die auch in Zukunft frei von digitaler Automatisierung bleiben. Auch die Variabilität in den Daten lässt sich erhalten. Das bedeutet aber, dass die KI-Systeme auch suboptimale Entscheidungen treffen müssen – wie es etwa die „Temperature“ in ChatGPT vormacht. Das könnte über explizite Zufallskomponenten gelingen. Auch müssen die KI-Modelle lernen, zu weit zurückliegendes implizites Wissen wieder zu vergessen, was eine ganz besondere Herausforderung werden wird. Die dadurch entstehenden zusätzlichen Kosten, Ineffizienzen und den erhöhten Zeitaufwand gilt es bewusst in Kauf zu nehmen.

Christian R. Ulbrich ist Leiter der Forschungsstelle für Digitalisierung in Staat und Verwaltung (e-PIAF) an der Universität Basel und zusammen mit Bruno S. Frey Autor des Buches „Automated Democracy – Die Neuverteilung von Macht und Einfluss im digitalen Staat“.

Urs Gasser ist Gründungsdekan der School of Social Sciences and Technology der TU München. Zuvor war er Leiter des Berkman Klein Centers for Internet & Society an der Harvard University. Zusammen mit Viktor Mayer-Schönberger ist er Autor des Buches „Guardrails – Guiding Human Decisions in the Age of AI“.

Liebe Leserin, lieber Leser,

danke, dass Sie sich an dieser Diskussion konstruktiv, sachlich und kritisch beteiligen wollen. Hier beantworten wir die meistgestellten Fragen zu diesem Bereich. Die Richtlinien für Lesermeinungen finden Sie hier. Alle ausgewählten Artikel finden Sie auf der "Leserdebatte".

Wir freuen uns auf Ihren Beitrag!

chat_bubbleperson

Liebe Leserinnen und Leser, wie wird Künstliche Intelligenz Ihrer Meinung nach Ihren Arbeitsalltag verändern?

filter_list

Gruenebaum

vor 27 Minuten

Das ist alles richtig, aber man muss ja mit dem Ist-Zustand vergleichen.

In vielen Bereichen vertrauen wir Experten und Beratern, von der Gesundheit über die Steuer bis zum Autokauf.

Und das Ergebnis ist doch fast durchweg suboptimal. Da verlasse ich mich lieber auf einen Algorithmus.

Dass KI, die ja faktisch keine ist, sondern in der Tat machine learning auf der Basis extrem großer Datenmengen, keine universelle Antwort auf alles ist, versteht sich von selbst.

3

favorite

reply

link

flag

Hans Steendamm

vor 5 Minuten

Algorithmus ist das Gegenteil von KI

Das sagt sogar Wikipedia,

obwohl dort nur das stimmt was richtig ist

Meyer 1905

jetzt jedes bestimmten Regeln unterworfene Rechnungsverfahren.

mit etwas Einschränkungen auch heute

favorite

reply

link

flag

Jens Busch

vor 34 Minuten

KI als Schreckenspopanz und Wundermittel in Einem. Was sie eigentlich ausmacht, wird nicht erklärt - schon gar nicht in den Medien. Letztlich ist auch KI ein Algorithmus, der mit Input gefüttert werden muss, um Output zu erzeugen. Diejenigen, die die Verfügungsgewalt in den relevanten Bezügen innehaben - also darüber entscheiden, wie, wo und wann KI eingesetzt wird oder eben nicht - wissen um den unschätzbaren Vorteil dieser Technik: Als Instrument der Trickserei, Irreführung und Täuschung ist KI nicht zu schlagen. Rosstäuscherei als Gesellschaftsmanagement - die Zeiten werden eben härter.

1

3

favorite1

reply

link

flag

Hans Steendamm

vor 4 Minuten

Ki ist das Gegenteil von Algorithmus

Wikipedia

oder Meyer 1905

jetzt jedes bestimmten Regeln unterworfene Rechnungsverfahren.

favorite

reply

link

flag

Detlev Piecha

vor 43 Minuten

Angesichts der Diskussionen zum Thema „KI/AI“ hier im Forum kommen Ulbrich&Gasser mit ihren

„Zwei Risiken“

und den „wahren Kosten der Künstlichen Intelligenz“

recht unbedarft und verharmlosend daher, wenn sie schreiben, die „viel diskutierten langfristigen Folgen sind eher abstrakter Natur“ und damit die „Zunehmende Zentralisierung“ und die „unerwünschte Ballung von Macht“ meinen.

Die großen Internetunternehmen zeigten das sehr plastisch und grundsätzlich seien digitale KI-Systeme „viel anfälliger für Machtmissbrauch jeglicher Art“.

Aber mit dieser Feststellung begnügen sich die Autoren und verweigern den Blick auf die fatalen Folgen, die dieser „Machtmißbrauch“ bereits auf breiter Front in Form der sog. „sozialen Medien“ in der Öffentlichkeit angerichtet hat.

Wenn die Autoren beklagen, daß nur wenigen klar sei, „dass eine KI im Herzen konservativ“ sei, läßt allein diese 💖-Metaphorik befürchten, daß sie die technisch-totalitäre Struktur von Algorithmen „blauäugig“ verkennen.

3

favorite1

reply

link

flag

Rene vom Leserdialog-Team

Redaktion

vor 30 Minuten

(Bearbeitet)

Lieber Herr Piecha, vielen Dank für den kritischen Beitrag. Was meinen Sie mit "technisch-totalitäre Struktur von Algorithmen"? Teilen Sie Ihre Einschätzungen doch gerne mit dem Forum. Beste Grüße aus Frankfurt!

favorite

reply

link

flag

Gruenebaum

vor 19 Minuten

Wie entstehen Kriege?

Diplomaten belügen Journalisten und glauben dann, was sie in der Zeitung lesen.

Karl Kraus

Manipulationen sind so alt wie die Welt. Die leichtesten Opfer sind die Halbgebildeten. Und die gibt es in großer Zahl.

1

favorite

reply

link

flag

Detlev Landgraf

vor 52 Minuten

Letzhin im NRC, der Energieverbrauch KI/Crypto weltweit soll dem Gesamtenergieverbrauch Japans entsprechen. Wo ist denn da der Fortschritt? Fuer eine Technik die eigentlich nur grosse Datenmengen schneller verarbeitet und analysiert. In Japan wird man nicht das Licht fuer KI ausschalten, der Ressourcenverbrauch der KI kommt oben drauf unabhaengig von allem Greenwashing

3

favorite

reply

link

flag

Kandesbunzler

vor 56 Minuten

Wie Sigmund Freud schon im Jahr 1928 kritisierte, ist es eine "Illusion ... zu glauben, daß wir anderswoher bekommen könnten, was sie (die Wissenschaft) uns nicht geben kann". Alle Hoffnung heutzutage auf die Künstliche Intelligenz zu setzen, muss angesichts dessen bloß enttäuscht werden. Wer also ein König der Wissenschaften sein will, kommt auch weiterhin ohne vorausgehend um jeden Preis geleistete und buchstäbliche Knochenarbeit nicht aus. Der Alltag notwendiger Erkenntnisgewinnung ändert sich dadurch nicht.

3

favorite2

reply

link

flag

NilsXYZ

vor 1 Stunde

(Bearbeitet)

Auch Menschen schaffen nicht etwas völlig Neues aus nichts. Das völlig Neue entsteht aus der Auseinandersetzung mit dem vorhandenen Wissen. Hegel hat sich an Kant abgearbeitet, Marx an Hegel, die Frankfurter Schule an Marx … die KI kann anders als Menschen bisher nur kombinieren und nicht logisch darüber hinaus gehen. Aber wenn Deepmind damit irgendwann um die Ecke kommt, dann Gnade Gott!

Ähnlich die Homogenität: Stimmt, aber kaufen sie mal drei Tageszeitungen am Kiosk: Also Homogenität und Einheitsmeinung kriegt die Gesellschaft auch von alleine hin.

Das Problem ist nicht die KI, sondern der unbedarfte Umgang damit. Wie auch die Einheitsmeinungen in den Zeitungen nicht das Problem sind, sondern die Leute, die das für die einzig mögliche Sichtweise halten.

In beiden Fällen sehe ich aber ziemlich schwarz für Deutschland.

3

favorite1

reply

link

flag

detlef thürmer_4443

vor 1 Stunde

KI hätte nie die Dampfmaschine erfunden.

Da wäre uns und der Erde wohl vieles erspart geblieben.

Die ganzen Probleme,die wir jetzt haben,sind doch hauptsächlich im Zuge der Industrialisierung entstanden.

4

2

favorite2

reply

link

flag

Udo Lorenz

vor 1 Stunde

Richtig, kein Buddeln nach Rohstoffen im großen Maßstab.

1

favorite1

reply

link

flag

detlef thürmer_4443

vor 20 Minuten

Die Dampfmaschine hat die Muskelkraft ersetzt.

So stark ist der Sapiens ja nicht.

Aber er hat doch schon ein großes Gehirn im Verhältniss zum Körper. Das reicht nicht?

Bis jetzt ist er doch gut ohne KI ausgekommen.

Das reicht doch völlig.

3

favorite1

reply

link

flag

E Datinská

vor 1 Stunde

Garbage in, garbage out. Das ist aber nicht neu.

1

favorite