Deutschland sollte sich bei KI sicher sein

Artikel von J. Andrulis

• 1 Std. •

8 Minuten Lesezeit

class="article-body polished" style="font-size: 17px; text-align: start; line-height: 26px; margin: 0px; --colorNeutralForeground1: #ffffff; --colorNeutralForeground4: #999999; color: var(--colorNeutralForeground1); font-weight: 400; max-height: 100%; overflow-y: hidden;"

Durch Künstliche Intelligenz sollen Computer dem Gehirn immer ähnlicher werden.© Getty/Bearbeitung F.A.Z.

Künstliche Intelligenz (KI) weckt große Hoffnungen. Sie kann uns dabei unterstützen, Krankheiten zu diagnostizieren, unsere Lebensqualität zu verbessern und uns mühsame Arbeit abzunehmen. Doch die Technologie birgt zugleich erhebliche Risiken: Sie kann von Oligarchen, Diktatoren, Kriminellen oder Terroristen missbraucht werden. Auch ohne böswillige Absicht können unsere Werte und Sicherheit nachhaltig gefährdet werden – etwa wenn das Verhalten von KI-Systemen gezielt aus rein ökonomischen Motiven beeinflusst wird. Hinzu kommen unbeabsichtigte Effekte immer komplexerer und mächtigerer Systeme, die eigenständige Risiken erzeugen.

Diese Entwicklung ähnelt früheren technologischen Revolutionen wie der Erfindung des Computers oder des Internets, sie vollzieht sich jedoch in einem beispiellosen Tempo. Um die Potentiale optimal nutzen zu können, müssen wir daher heute mutig in die KI-Sicherheit (AI Safety) von morgen investieren und hierbei auch die entscheidende Frage beantworten: „Wie stellen wir sicher, dass KI-Systeme uns weder beabsichtigt noch unbeabsichtigt schaden?“

Die Frage ist nicht neu. Schon im Jahr 1946 warnte der Kybernetik-Pionier Norbert Wiener, dass Maschinen, die aus Erfahrung lernen und ihr Verhalten selbständig anpassen, sich mit zunehmender Unabhängigkeit auch der menschlichen Kontrolle entziehen könnten. „Jeder Grad an Unabhängigkeit, den wir der Maschine geben, ist ein Grad möglicher Missachtung unserer Wünsche“, schrieb Wiener zu jener Zeit.

Diese damals vorgebrachte Warnung ist heute aktueller denn je: Während in den Anfangsjahren der KI-Forschung die reine Realisierbarkeit im Vordergrund stand, stellen sich angesichts der rasanten Entwicklung von ChatGPT und anderen KI-Systemen, insbesondere in kritischen Bereichen wie Justiz, Medizin und Verkehr, die Fragen nach Kontrolle und gesellschaftlicher Integration inzwischen drängender denn je.

Von KI und Magie – warum beide Regulierung und Kontrolle brauchen

Ein besonders treffendes Bild für die aktuelle Lage liefert Goethes berühmte Ballade „Der Zauberlehrling“. Ein Lehrling glaubt, magische Kräfte kontrollieren zu können, die er nur ansatzweise versteht. Als sein Meister abwesend ist, belebt er eigenmächtig einen Besen, damit dieser Wasser holt. Doch was als brillante Idee beginnt, eskaliert schnell. Der Besen trägt unermüdlich Eimer um Eimer herbei, und der Lehrling verliert die Kontrolle. Schließlich hackt er den Besen in Stücke, verschlimmert die Lage dadurch jedoch nur weiter: Nun tragen zwei Besen das Wasser herbei, und das Chaos wächst. Erst als der Meister zurückkehrt, beendet er mit einem kurzen Zauberspruch das Durcheinander und stellt die Ordnung wieder her.

Wenn es um KI geht, dann sind wir in einer ähnlichen Situation wie Goethes Zauberlehrling. Wir sind dabei, Technologien zu entwickeln, die uns enorme Arbeit abnehmen und unseren Wohlstand sichern können. KI-Systeme automatisieren schon heute Verwaltungsprozesse, analysieren riesige Datenmengen, beschleunigen Innovationen. Doch einmal in Gang gesetzt, sind sie nicht immer leicht zu stoppen oder zu kontrollieren. Algorithmen arbeiten mit einer Effizienz, die menschliche Kapazitäten weit übersteigen kann. Doch sie tun dies oft ohne echtes Verständnis für den Kontext und ohne Sinn für die Folgen ihrer Entscheidungen.

In besonders sensiblen Bereichen – etwa in der Strafjustiz oder wenn es um die Entscheidung über Sozialleistungen geht – können solche Fehler gravierende Folgen haben. In der Vergangenheit wurden KI-Systeme eingesetzt, deren Fehler bestimmte Bevölkerungsgruppen systematisch benachteiligten. Ein bekanntes Beispiel: In den Vereinigten Staaten bewertete ein KI-System zur Rückfallprognose afroamerikanische Angeklagte überproportional häufig fälschlicherweise als risikoreich – ein Fehler, der sich aus Trainingsdaten ergab, die schon historische Ungleichbehandlungen enthielten. Diese Verzerrungen wurden vom System übernommen und so unbeabsichtigt fortgeschrieben.

Während solche KI-Systeme, die quantifizierbare und eindeutig überprüfbare Vorhersagen liefern, oft noch klar bewertet werden können, stellen uns moderne, generative KI-Systeme mit ihrem breiten Anwendungsspektrum vor neue Herausforderungen. Wenn vorhergesagt werden soll, ob jemand nach einer Straftat rückfällig wird oder ob eine Person kreditwürdig ist, erhält man in der Regel konkrete, überprüfbare Zahlen. Vorausgesetzt, wir folgen nicht ausschließlich und unkritisch den Empfehlungen eines solchen Systems, lassen sich diese Vorhersagen direkt mit der Wirklichkeit abgleichen, etwa: Wurde der Kredit tatsächlich zurückgezahlt? Oder: Ist die Person abermals straffällig geworden? Dadurch können Fehler im System erkannt und reduziert werden. Ganz anders verhält es sich jedoch im Falle der sogenannten generativen KI-Systeme, die Texte schreiben oder zusammenfassen. Hier ist oft unklar, was ein „richtiges“ oder „faires“ Ergebnis überhaupt ausmacht. Was bedeutet „fair“ im Kontext einer Textzusammenfassung? Hat die KI wichtige Aspekte ausgelassen oder bestimmte Perspektiven bevorzugt? Verzerrungen in solchen Systemen sind meist subtiler und daher besonders schwer aufzudecken und zu korrigieren.

Extreme, emotionale und polarisierende Inhalte bevorzugt

KI-Algorithmen in sozialen Medien sind ein weiteres Beispiel für unbeabsichtigte negative Folgen des Einsatzes von KI. Ursprünglich wurden sie entwickelt, um Inhalte gezielt an Nutzer anzupassen. Dabei bevorzugen die Algorithmen allerdings häufig extreme, emotionale und polarisierende Inhalte, da diese mehr Aufmerksamkeit erzeugen. Zugleich verleiten sie uns dazu, entsprechende Posts unreflektiert weiterzuverbreiten.

Das fördert nicht nur Fake News, sondern gefährdet auch den demokratischen Diskurs. Derartige Effekte wurden schon in Rumänien, in den Vereinigten Staaten und in Argentinien beobachtet. Ähnlich wie Goethes Zauberlehrling haben wir hier eine Technologie entfesselt, die nach ihrer eigenen Logik arbeitet und sich nur schwer wieder kontrollieren lässt, zumindest, wenn man nicht Mark Zuckerberg oder Elon Musk heißt. Besonders problematisch ist dabei die enge Verflechtung der kommerziellen Interessen großer Technologieunternehmen mit staatlichen Machtinteressen – und deren Auswirkungen auf Nutzerinnen und Nutzer sowie auf die kulturellen Werte unterschiedlicher Gesellschaften.

Die möglichen negativen Auswirkungen von KI sollten uns jedoch nicht dazu verleiten, die Technologie insgesamt abzuschreiben. Schon Goethe beschreibt in seiner Ballade nicht nur das Problem, sondern deutet auch eine Lösung an – in Form des Meisters, der die Kontrolle schließlich zurückgewinnt. „Der Zauberlehrling“ ist deshalb auch kein Weltuntergangsszenario, sondern vielmehr eine Geschichte über Wissen, Verantwortung und Regulierung.

Die Chance für Deutschland: ein nationales AI-Safety-Institut

Die KI-Entwicklung braucht ihre eigenen „Meister“. Gemeint sind Fachleute, die sich systematisch mit AI Safety beschäftigen, die Methoden entwickeln, um Risiken frühzeitig zu erkennen, und Sicherheitsmechanismen implementieren, mit denen unerwünschte Effekte korrigiert werden können. Innovationen und Werkzeuge zur Steigerung von Transparenz und Kontrolle in immer komplexeren Systemen spielen dabei eine entscheidende Rolle. Ebenso wichtig ist es, die Risiken von KI nicht isoliert zu betrachten, sondern im Zusammenspiel mit gesellschaftlichen und organisatorischen Strukturen. Nur so lassen sich verlässliche Grundlagen für eine effektive menschliche Kontrolle schaffen – ein Kernanliegen der KI-Verordnung der EU.

Leider lassen sich diese „Meister“ nicht einfach herbeizaubern. Sie müssen gezielt ausgebildet, aktiv gefördert und mit den notwendigen Ressourcen ausgestattet werden. Ein Deutsches AI-Safety-Institut (DAISI) könnte genau diese Aufgabe erfüllen. Es könnte wissenschaftlich fundierte Sicherheitsrichtlinien entwickeln, sich mit ethischen Fragen der Automatisierung auseinandersetzen und interdisziplinäre Forschung fördern. Denn – ähnlich wie beim Zauberlehrling – es genügt nicht, nur das richtige Werkzeug zu besitzen. Entscheidend ist vielmehr, auch den sicheren Umgang damit zu beherrschen.

Unsere aktuelle Situation lässt sich mit der Einführung der Elektrizität vergleichen. Als in den 1880er-Jahren die ersten Stromleitungen in New York verlegt wurden und der Broadway im elektrischen Licht erstrahlte, mischte sich in die Faszination der Bürger auch Skepsis. Elektrizität wurde von vielen als mystische, unkontrollierbare Kraft angesehen. Arbeiter, die im Auftrag des Elektro-Pioniers Thomas Edison die Stromleitungen verlegten, nannten sie den „Teufel in den Drähten“. In Philadelphia protestierten Anwohner, weil sie Brandgefahr fürchteten. Die Sorgen der Menschen waren durchaus berechtigt: In der Anfangszeit der elektrischen Energie verursachten unsichere Leitungen zahlreiche Brände, und infolge eines Schneesturms im Jahr 1888 wurden mehrere Strommasten umgerissen, wodurch die Stromversorgung von ganz New York lahmgelegt wurde; Telefone verstummten, Lichter erloschen, und Straßen versanken im Schnee.

War die Nutzung der Elektrizität anfangs ein riskantes Experiment, so ist sie mit zunehmender Sicherheit zu einer unverzichtbaren Grundlage moderner Gesellschaften geworden. Sie legte den Grundstein für die Digitalisierung in allen Bereichen. Heute ist unser Alltag ohne Strom nicht mehr vorstellbar: Wir starten morgens in den Tag, indem wir das Licht anschalten, nachdem uns der Wecker unseres Smartphones geweckt hat, und wir fahren oft mit E-Autos zur Arbeit, wo wir mit verschiedenen digitalen Systemen interagieren.

Schreckgespenster statt Debatte über reale Risiken

Auch die Künstliche Intelligenz hat das Potential, unsere Art zu leben und zu arbeiten zu revolutionieren – vorausgesetzt, wir priorisieren die gesellschaftliche Sicherheit dieser Technologie. Im Interesse der gesamten Menschheit müssen fortschrittliche KI-Systeme nicht nur leistungsfähig sein, sondern vor allem sicher betrieben werden und auf unseren gesellschaftlichen Werten basieren. Dies war der Konsens auf der Eröffnungsveranstaltung der International Association for Safe and Ethical AI (IASEAI), die im Vorfeld des diesjährigen AI Action Summit in Paris stattfand.

In den Worten des KI-Forschers Stuart Russell: „Die Entwicklung von hochkapazitiver KI wird vermutlich das bedeutendste Ereignis in der Geschichte der Menschheit sein. Die Welt muss entschieden handeln, damit es nicht das letzte Ereignis in unserer Geschichte bleibt. Diese Konferenz und der kooperative Geist der AI-Summit-Serie geben mir Hoffnung; doch wir müssen diese Hoffnung rasch in konkrete Taten umsetzen, wenn wir eine Zukunft gestalten wollen, in der auch unsere Kinder leben können.“

Statt über reale Risiken zu sprechen, malt die Debatte über KI-Sicherheit häufig Schreckgespenster an die Wand – vom völligen Kontrollverlust bis hin zu einer allmächtigen Super-KI, die uns bedroht. Doch die eigentlichen Herausforderungen liegen im Hier und Jetzt. Ob in der Kreditvergabe, im Gesundheitswesen oder in der Moderation von Inhalten in sozialen Medien: Fehlerhafte oder intransparente KI-Entscheidungen können bestehende Ungleichheiten verstärken und gesellschaftliche Spaltungen vertiefen. Eine sachliche, lösungsorientierte Auseinandersetzung mit diesen Herausforderungen ist dringender denn je.

Andere Länder, nicht zuletzt in Europa, handelten längst. Frankreich präsentierte beispielsweise jüngst sein nationales Institut für KI-Sicherheit (INESIA). Das im Jahr 2023 gegründete AI Security Institute (AISI) des Vereinigten Königreichs kooperiert schon jetzt eng mit KI-Anbietern wie Open AI, um potentielle Risiken frühzeitig zu identifizieren und regelmäßig Sicherheitsberichte zu großen KI-Modellen zu veröffentlichen. Mit 100 Millionen Pfund (120 Millionen Euro) an öffentlichen Mitteln verfügt es über ein zehnmal höheres Budget als das US-Pendant.

Handeln statt abwarten – für eine sichere KI von morgen

Deutschland hat eine lange Tradition in exzellenter Ingenieurskunst und Wissenschaft. Doch leider fehlt uns eine koordinierte und institutionalisierte Herangehensweise, wenn es um KI-Sicherheit geht. Die Gründung eines Deutschen AI-Safety-Instituts (DAISI) ist überfällig. Ein solches muss nicht nur technische Lösungen entwickeln, sondern auch den Dialog zwischen Wissenschaft, Politik und Gesellschaft fördern. Es soll klare Standards schaffen, wie KI sicher und fair eingesetzt werden kann, und zugleich den internationalen Austausch in diesem entscheidenden Zukunftsfeld stärken. Verankert im Ökosystem mit den wichtigsten Stakeholdern aus Politik, Forschung und Wirtschaft kann sichergestellt werden, dass die dort entstehende Innovation breite Anwendung finden kann. Und dies, ohne mit zusätzlicher Bürokratie oder Regulierung diese industriell-technologische Revolution für Deutschland und Europa auszubremsen.

Wenn Deutschland sich nicht aktiv für sichere und ethische KI einsetzt, wird es nicht nur technologisch abgehängt, sondern riskiert auch, dass die Regeln für den Einsatz von KI von anderen bestimmt werden. Wer heute in KI-Sicherheit investiert, gestaltet die digitale Zukunft und legt den Grundstein, die Chancen von KI in echten gesellschaftlichen Mehrwert umzuwandeln. Die Zeit zum Handeln ist jetzt.

Jonas Andrulis ist Gründer und CEO von Aleph Alpha, einem führenden KI-Start-up aus Heidelberg, das er 2019 nach Stationen in der Forschung bei Apple sowie mehreren Unternehmensgründungen im KI-Bereich ins Leben rief.

Kevin Baum ist stellvertretender Forschungsbereichsleiter „Neuro-Mechanistic Modeling“ und AI Ethics & Alignment Lead am Centre for European Research in Trusted AI (CERTAIN) des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI).

Kristian Kersting ist Ko-Direktor des Hessischen Zentrums für KI (hessian.AI), Professor für KI und Maschinelles Lernen an der TU Darmstadt, Forschungsbereichsleiter „Foundations of Systems AI“ am DFKI sowie Seed-Investor bei Aleph Alpha.

Annika von Mutius ist Co-Founder & Co-CEO des HR-Tech-Start-ups Empion. Sie studierte an der WHU – Otto Beisheim School of Management, promovierte in Mathematik und arbeitete vor ihrer eigenen Unternehmensgründung für ein Robotics-Start-up im Silicon Valley.

Patrick Schramowski ist stellvertretender Forschungsbereichsleiter „Foundations of Systems AI“ am DFKI, AI Safety Lead am CERTAIN und Forscher am hessian.AI.

Sebastian Vollmer ist Professor für Anwendungen des Maschinellen Lernens an der Rheinland-Pfälzischen Technischen Universität Kaiserslautern-Landau und leitet den Forschungsbereich „Data Science and its Applications“ am DFKI.