CHATGPT & CO

:

Ein KI-Gesetz für Europa

- VON KAI ZENNER, AXEL VOSS, MONISH DARDA UND ROLF SCHWARTMANN

- -AKTUALISIERT AM -11:26

Bildbeschreibung einblenden

Das Europäische Parlament hat sich auf einen Rahmen für die Künstliche Intelligenz geeinigt. Und stimmt nun ab. Hier kommen vier Perspektiven, was das bedeutet.

- MERKEN

- 3

- 7

12 Min.

Eine Lösung für ChatGPT nach zähem Ringen

Von Kai Zenner

Der 14. Juni 2023 wird ein wichtiger Tag für die Künstliche Intelligenz (KI) in Europa. Nach 18 Monate dauernden Verhandlungen steht die Antwort des Europäischen Parlaments auf die vorgeschlagene KI-Regulierung zur Abstimmung. Der Entwurf der EU-Kommission war dabei ein gesetzgeberisches Novum. Erstmals wurden Regeln zur Produktsicherheit und zum Schutz von Menschenrechten kombiniert, um so der besonderen Anforderungen in der Entwicklung und Anwendung von KI-Systemen besser Herr zu werden. Ausgangspunkt war die Erkenntnis, dass die steigende Unberechenbarkeit, Opazität und Komplexität von aktuellen Machine-Learning- und Deep-Learning-Systemen zusehends Rechtslücken entstehen lässt. Um aber gleichzeitig sicherzustellen, dass die neuen Vorschriften die europäische Innovation in KI nicht abwürgen, wählte die Kommission zusätzlich einen risikobasierten Ansatz. So unterscheidet der Gesetzesvorschlag stufenweise von risikoarmen bis zu verbotenen KI-Technologien. Erstere, wie beispielsweise ein KI-gesteuertes Spielzeugauto, unterfällt nur den allgemeinen Regeln des Rechts, seien es die EU-Spielzeugrichtlinie oder das Datenschutz- und Jugendschutzrecht. Ist eine KI hochriskant, unterwirft der Entwurf der KI-Regulierung deren Anbieter und Nutzer besonderen Pflichten. Wann das der Fall ist, wird bereichsspezifisch festgelegt, von der Bildung bis zur Justiz. Einige wenige KI-Systeme, etwa zum Social Scoring, welches Menschen nach ihrem sozialen Verhalten klassifiziert und bewertet, werden gänzlich verboten.

Warum brauchten die Parlamentarier 43 technische Sitzungen und zwölf Treffen auf politischer Ebene, um über die insgesamt 89 Erwägungsgründe, 85 Artikel und neun Annexe der KI-Verordnung zu diskutieren? Die Komplexität des Gesetzesvorschlages sowie das Einbeziehen von zwei Ausschüssen im Parlament sind Ursachen. Drei fachliche Gründe waren aber noch bedeutender.

Erstens Ideologie: Im Europäischen Parlament trafen zwei Welten aufeinander – Abgeordnete, welche mächtige KI-Systeme als Bedrohung für Individuum und Gesellschaft sehen, und solche, welche vor allem die Chancen der Technologie im Blick haben. Während dem einen Lager die KI-Regulierung nicht weit genug ging, befürchtete das andere Lager eine Überregulierung.

Zweitens konzeptionelle Probleme: Die Kommission schlug mit dem Gesetzesvorschlag ein horizontales Framework vor, welches alle hochriskanten KI-Systeme in den unterschiedlichsten Sektoren und Anwendungsbereichen gleich behandelt. Die Abgeordneten merkten parteiübergreifend allerdings schnell, dass dies in der Praxis nicht funktioniert. Ein KI-System, welches bei der Entscheidung über den Zugang zu öffentlichen Dienstleistungen mitwirkt, darf auf keinen verzerrten Datensatz zurückgreifen. Bei einem KI-System, welches an der Erforschung von Medikamenten für die Schwangerschaft mitwirkt, ist es umgekehrt: Nur die Daten von gebärfähigen Frauen sind relevant.

Drittens der rasante technologische Fortschritt: Schon während der Vorstellung des KI-Gesetzes am 21. April 2021 hatten die enthaltenen Produktsicherheitsregeln große Schwierigkeiten, mit den selbstlernenden und sich verändernden KI-Systemen zurechtzukommen. Mit dem im November 2022 von Open AI veröffentlichten KI-System ChatGPT war das Gesetz dann aber völlig überfordert. Eine Technologie ohne festen Bestimmungszweck und ohne klare Anwendungsfälle, veränderbar wie ein digitales Knetgummi, wird von den starren Produktsicherheitsregeln konzeptionell gar nicht erst als Produkt erkannt.

Im nun vom Parlament erzielten Verhandlungsergebnis wurden nicht nur der Kontext, in welchem das hochriskante KI-System genutzt wird, mehr berücksichtigt und die neuen Herausforderungen durch ChatGPT adressiert. Auch der Anwendungsbereich der KI-Verordnung wurde präzisiert und vollständig an die anerkannte OECD-KI-Definition angepasst. So wurde die Gefahr gebannt, dass zukünftig jeder automatisierte Prozess, beispielsweise in einer Excel-Datei, als KI verstanden wird. Die Parlamentarier behoben auch viele Überschneidungen mit anderen EU-Gesetzen, insbesondere mit sektoralen Regeln im Bereich der Cybersicherheit und des Datenschutzes sowie zu Medizin- und Finanzprodukten. Eindeutiger Schwerpunkt der technischen Verhandlungen waren der Aufbau und die Befugnisse von europäischen und nationalen Aufsichtsbehörden. Parteiübergreifend bestand der Wille, aus den Umsetzungsfehlern bei der DSGVO wie etwa den unterschiedlichen Interpretationen von Kernprinzipien zu lernen. Folglich wurde eine deutliche Harmonisierung auf EU-Ebene vorgeschlagen, koordiniert von Kommission und einem gestärkten KI-Office. Bis das KI-Gesetz in Kraft tritt, ist es aber noch ein langer Weg. Nach der Abstimmung am 14. Juni beginnen die sogenannten Trilogverhandlungen zwischen dem Europäischen Parlament und den EU-Mitgliedstaaten. Gelingt eine Einigung bis Weihnachten dieses Jahres, könnte der Vorschlag bis zum 9. Juni 2024, dem Tag der Europawahl, formal in Kraft treten. Übergangsfristen bis Mitte 2026 bedeuten für Entwickler und Anwender allerdings, dass sie noch viel Zeit haben, um sich auf die neuen Regeln vorzubereiten.

Der „Brüssel-Effekt“ und was ihm noch im Wege steht

Von Axel Voss

Die geplante KI-Verordnung kann man kritisch sehen. Dennoch ist richtig und wichtig, diese Technologie zu regulieren. Schon heute stellen KI-Systeme alte Gewohnheiten und Prozesse auf den Kopf. Wo genau die Grenzen der technischen Entwicklung liegen, ist selbst unter Fachleuten äußerst umstritten. Der EU-Gesetzgeber muss also geradezu einschreiten, möchte er sicherzustellen, dass unser Gesellschafts- und Rechtssystem adäquat mit immer intelligenteren und mächtigeren Computern umgehen kann. Ist das EU-Gesetz auch noch ausgewogen und praxisnah, könnte es am Ende sogar einen „Brüssel-Effekt“ auslösen: Andere Staaten würden die robusten EU-Rechtsnormen übernehmen und so nicht nur rund um die Welt die Sicherheit von KI-Systemen steigern, sondern auch einen Wettbewerbsvorteil für Europa erzeugen. Unsere Unternehmen könnten ihre KI-Produkte und Dienstleistungen ohne große Anpassungen und mit einem faktischen EU-Qualitätssiegel ins Ausland exportieren.

Trotz der großen Fortschritte im Parlamentsbericht steht die Unausgewogenheit des Gesetzes diesem positiven Szenario weiterhin im Wege. Von 85 Artikeln konzentrieren sich 82 auf die Risiken von KI. Gab es im im Jahr 2020 erschienenen KI-Weißbuch der EU-Kommission noch ein „Ökosystem der Exzellenz“ und ein „Ökosystem des Vertrauens“, weist der Regulierungsvorschlag von 2021 nur noch Letzteres auf. Der koordinierte Plan, welcher die Exzellenz abdecken soll, ist hingegen unverbindlich und wurde von den Mitgliedstaaten bisher nur halbherzig umgesetzt. Wie soll die EU so das Ziel erreichen, zur KI-Weltspitze aufzuschließen?

Das zersplitterte Bildungssystem, der fehlende Transfer von Ideen aus der Wissenschaft in die Industrie, die schlechte Infrastruktur und der zu restriktive Datenschutz lassen die EU global eher immer weiter zurückfallen. Schaffen es Kommission und Standardisierungsbehörden nicht rechtzeitig, die essenziellen Orientierungshilfen und technischen Standards bereitzustellen, werden die unterschiedlichen Auslegungen des KI-Gesetzes unsere Lage noch verschlechtern. Die resultierende Rechtsunsicherheit würde nur einen Gewinner kennen: die amerikanischen Tech-Giganten. Nur sie sind in der Lage, mit einer Heerschar von Beratern und Anwälten ihre Geschäfte schnell an die neuen gesetzlichen Anforderungen anzupassen. Selbst massive Strafzahlungen fallen in der Jahresbilanz kaum auf. Ganz anders für die europäischen Konkurrenten, insbesondere für kleine und mittelgroße Unternehmen (KMU) und Start-ups. Schon die bloße Existenz der Sanktionen der DSGVO hat viele davon abgehalten, in Big-Data-Anwendungen zu investieren. Die KI-Regulierung könnte sich ähnlich auswirken: die Marktmacht der Tech-Giganten in KI stärken und Europas Unternehmen endgültig aus dem Markt drängen.

Damit die KI-Verordnung doch noch eine Erfolgsgeschichte wird, welche Bürger- und Freiheitsrechte effizient schützt und zugleich Innovation fördert, müssen insbesondere vier Punkte in den Trilogverhandlungen mit den Mitgliedstaaten adressiert werden. Erstens eine bessere Rechtssetzung: Überschneidungen und Widersprüche mit den vielen anderen EU-Digitalgesetzen und sektoralen Regeln müssen noch konsequenter identifiziert und behoben werden. Viele KI-Systeme und mögliche Anwendungsfälle sind schon umfassend reguliert. Es ist daher jeweils genau zu prüfen, ob das KI-Gesetz wirklich notwendig ist und inwiefern seine neuen Anforderungen nicht schon anderswo erfüllt werden. Zweitens eine EU-weite Harmonisierung: Es muss sichergestellt werden, dass von Irland bis Bulgarien dieselben Regeln und Möglichkeiten gelten. Daher sollte – im Rahmen der EU-Verträge – das maximal Mögliche auf EU-Ebene festgelegt werden und auch den nationalen Aufsichtsbehörden mehr auf die Finger geschaut werden.

Geht ein Mitgliedstaat, wie bei der DSGVO, zu intensiv oder aber gar nicht gegen bestimmte Probleme vor, muss die Kommission einschreiten. Drittens die Innovationsförderung: Die rechtlichen und finanziellen Rahmenbedingungen für Innovation, beispielsweise beim Training von Datensätzen, müssen signifikant verbessert werden, sodass sich Innovation für Unternehmen auch lohnt. Auch über ein europäisches Pendant zum „Nationalen Institut für Standards und Technologie“ (NIST) aus den Vereinigten Staaten ist nachzudenken. Viertens geht es um KMUs und Start-ups: Ihre Innovationskraft ist Europas große Stärke, doch leiden sie am stärksten unter der schwierigen und teuren Einhaltung von EU-Digitalgesetzen. Ihnen sollte nicht nur mit mehr Ausnahmeregeln geholfen werden. Angesichts der Marktdominanz einiger Konzerne sollte auch in die KI-Wertschöpfungskette eingegriffen werden, um den Informationsfluss zwischen allen Akteuren sicherzustellen. Nur mit dem notwendigen Wissen über die eingebauten externen Komponenten wird das KI-Start-up aus Europa am Ende überhaupt in der Lage sein, die Anforderungen aus dem KI-Gesetz für sein Produkt oder seine Dienstleistung zu erfüllen.

Die KI-Regulierung muss die Wirtschaft mitnehmen

Von Monish Darda

Historisch gesehen wurde Technologie durch Regulierung verantwortungsbewusster, sicherer und ethisch verantwortbarer. Im Falle der KI und besonders der generativen KI ist das nicht anders. Der Entwurf des EU-KI-Gesetzes hat bemerkenswerte Ansätze und betritt in dieser Form Neuland. Der nach Risiken differenzierende Ansatz, der Hochrisikoanwendungen spezifisch und über besondere Pflichten reguliert, während „General Purpose“-KI den allgemeinen Regeln unterfällt, hat grundsätzlich viel für sich. Er ermöglicht verantwortungsvolle Innovationen in Hochrisikobereichen. Die besonderen Pflichten für Anbieter von sogenannten Foundation Models, wie sie beispielsweise hinter ChatGPT stehen, können sich als effektives Mittel im Kampf gegen die Gefahren generativer KI erweisen. Aus Sicht eines international agierenden Unternehmens wie Icertis erscheinen fünf Punkte für eine faire KI-Regulierung in Europa wichtig.

Benutzerfreundlichkeit und Rechtsklarheit: Regelungen müssen leicht zu verstehen sein, wenn sie befolgt werden sollen. Sie müssen die bestehenden Vorschriften ergänzen, nicht gegen sie arbeiten oder sich mit diesen überlappen. Für KI sind klar definierte Anwendungsgrenzen, Leitlinien für die Qualität der Trainingsdaten und machbare Vorschriften für Anbieter und Nutzer nützlich. Insbesondere in der Definition des komplexen Begriffs der KI selbst muss Klarheit entstehen, damit das Gesetz einen festen Anwendungsbereich erhält.

Weltweite Standards: Der Konsens über die Regulierung muss rund um den Globus etabliert werden und auf spezielle regionale Bedürfnisse Rücksicht nehmen. Eine Regulierung, die diese weltweiten Realitäten nicht achtet, schadet letztlich der Wettbewerbsfähigkeit und weiteren Innovationen. Die Grundlage der KI-Regulierung muss international konsensfähig sein, damit stark regulierte Regionen nicht gegenüber anderen, die wenig regulieren, ins Hintertreffen geraten – und umgekehrt. Wir müssen jetzt beginnen, den Konsens herzustellen, denn er braucht Zeit. Es wäre ein wichtiger Erfolg, wenn das Gesetz hierfür Mechanismen etablieren könnte.

Risikoangemessene Regulierung: Die Anforderungen des Gentechnikrechts auf das Klonen von Menschen sind viel strenger als auf die gentechnische Veränderung von Nutzpflanzen. Regulierung von KI sollte sich auf KI-Anwendungen konzentrieren, die tatsächlich Erkenntnisse umwandeln oder neue Inhalte verwirklichen. Die Anforderungen an die Regulierung müssen von der Auswirkung auf den Menschen abhängen. Der Entwurf des KI-Gesetzes beherzigt dies – das sollte auch den Trilog prägen.

Die Befolgung der Regulierung muss ein wirtschaftlicher Anreiz sein: Wenn die Umsetzung der Regulierung von denjenigen finanziert wird, die reguliert werden, hat sie größere Erfolgsaussichten, weil finanzielle Anreize für ihre Umsetzung bestehen. Sie zwingt Unternehmen über den gesamten Technologie-Lebenszyklus hinweg dazu, zusammenzukommen und im eigenen Interesse auf die gemeinsamen Ziele der Regulierung hinzuarbeiten. In der Welt der KI ist dies eher jetzt als später möglich. Der Begriff „KI“ muss positiv besetzt sein, wenn er ein Unternehmen tragen soll. Ist er negativ besetzt, ist er schädlich für den Marktwert des Unternehmens, das diese Technologie einsetzt. An diesem Punkt sind die Herausforderungen nicht nur für das KI-Gesetz noch besonders groß. Auch der Entwurf des „Data Act“ will ein europäisches Ökosystem für datengetriebene Geschäftsmodelle schaffen, ohne dass wirkliche Anreize für die Wirtschaft erkennbar sind, daran mitzuwirken.

Insolvenzschutz kleiner und mittelgroßer Unternehmen: Historisch betrachtet, überstehen große Unternehmen regulative Umwälzungen besser, weil sie vorausschauend planen und über größere Ressourcen verfügen. Nur eine Regulierung mit abgestuften Sanktionsstrukturen, die große und kleine Unternehmen zu schützen versuchen, genießt in der Praxis Akzeptanz und hat Aussicht auf Erfolg. Innovation geht von Unternehmen aus, die auf die Einführung neuer Technologien angewiesen sind, um zu wachsen. Sie sind, man denke an Google oder Meta, oft als Start-ups entstanden, die sich mittels disruptiver Technologie zum Tech-Giganten entwickelten. Auch die KI wird oft durch junge, kluge Köpfe verbreitet. Eine besondere Herausforderung besteht während des Trilogs sicher darin, angemessene Lösungen für „Open-Source-Angebote“ zu finden. Europa muss die Kreativität der vielen klugen Köpfe fördern und einen sicheren Rechtsrahmen für deren Arbeit schaffen und darf hier nicht zu stark regulieren.

Wenn Europa sich in der Welt etablieren möchte, dann muss die KI-Regulierung pragmatisch sein. Sie muss große und kleine Unternehmen unterstützen und das Experimentieren fördern. Gleichzeitig muss die Regulierung aber die Kontrolle der KI in einer Weise ermöglichen, die Grundprinzipien der Ethik und des Rechts einschließlich der Privatsphäre schützt. Der Entwurf des KI-Gesetzes hat Potential, und die Welt schaut mit Spannung, Hoffnung und Erwartungen an ein gutes Gelingen des Gesetzes zu.

MEHR ZUM THEMA

vorherige Artikel

1/2

nächste Artikel

Jürgen Schmidhuber hat schon in den neunziger Jahren der gerade angesagten KI den Weg mit bereitet.

KI-PIONIER SCHMIDHUBER

:

„Verglichen mit der Wasserstoffbombe ist KI mehr als harmlos“

- ALEXANDER ARMBRUSTER

- Empfehlungen:

,

Veröffentlicht/Aktualisiert:

35

Künstliche Intelligenz bietet Chancen – über die Risiken muss frühzeitig gesprochen werden.

UNBERECHTIGTE ZUKUNFTSÄNGSTE

:

Nein, die KI wird uns nicht auslöschen

- EIN KOMMENTAR VON ALEXANDER ARMBRUSTER

- Empfehlungen:

,

Veröffentlicht/Aktualisiert:

15

Leitet den Aufsichtsrat der französischen Werbeagentur Publicis Groupe: Maurice Lévy

VIVATECH

:

Getrübte Pariser Tech-Festspiele mit Elon Musk

- NIKLAS ZÁBOJI, PARIS

- ,

Veröffentlicht/Aktualisiert:

Sundar Pichai führt Google seit dem Jahr 2015.

GOOGLE-CHEF IM GESPRÄCH

:

„Künstliche Intelligenz ist zu wichtig, um sie nicht zu regulieren“

- ALEXANDER ARMBRUSTER UND CORINNA BUDRAS

- Kommentare:

Veröffentlicht/Aktualisiert:

61

Empfehlungen:

,

24

Jürgen Schmidhuber hat schon in den neunziger Jahren der gerade angesagten KI den Weg mit bereitet.

KI-PIONIER SCHMIDHUBER

:

„Verglichen mit der Wasserstoffbombe ist KI mehr als harmlos“

- ALEXANDER ARMBRUSTER

- Kommentare:

Veröffentlicht/Aktualisiert:

48

Empfehlungen:

,

35

Künstliche Intelligenz bietet Chancen – über die Risiken muss frühzeitig gesprochen werden.

UNBERECHTIGTE ZUKUNFTSÄNGSTE

:

Nein, die KI wird uns nicht auslöschen

- EIN KOMMENTAR VON ALEXANDER ARMBRUSTER

- Kommentare:

Veröffentlicht/Aktualisiert:

86

Empfehlungen:

,

15

Leitet den Aufsichtsrat der französischen Werbeagentur Publicis Groupe: Maurice Lévy

VIVATECH

:

Getrübte Pariser Tech-Festspiele mit Elon Musk

- NIKLAS ZÁBOJI, PARIS

- ,

Veröffentlicht/Aktualisiert:

Sundar Pichai führt Google seit dem Jahr 2015.

GOOGLE-CHEF IM GESPRÄCH

:

„Künstliche Intelligenz ist zu wichtig, um sie nicht zu regulieren“

- ALEXANDER ARMBRUSTER UND CORINNA BUDRAS

- Empfehlungen:

,

Veröffentlicht/Aktualisiert:

24

Jürgen Schmidhuber hat schon in den neunziger Jahren der gerade angesagten KI den Weg mit bereitet.

KI-PIONIER SCHMIDHUBER

:

„Verglichen mit der Wasserstoffbombe ist KI mehr als harmlos“

- ALEXANDER ARMBRUSTER

- Empfehlungen:

,

Veröffentlicht/Aktualisiert:

35

Künstliche Intelligenz bietet Chancen – über die Risiken muss frühzeitig gesprochen werden.

UNBERECHTIGTE ZUKUNFTSÄNGSTE

:

Nein, die KI wird uns nicht auslöschen

- EIN KOMMENTAR VON ALEXANDER ARMBRUSTER

- Empfehlungen:

,

Veröffentlicht/Aktualisiert:

15

Leitet den Aufsichtsrat der französischen Werbeagentur Publicis Groupe: Maurice Lévy

VIVATECH

:

Getrübte Pariser Tech-Festspiele mit Elon Musk

- NIKLAS ZÁBOJI, PARIS

- ,

Veröffentlicht/Aktualisiert:

KI als Sollbruchstelle des Rechtsstaats

Von Rolf Schwartmann

In den Vereinigten Staaten wurde eine Fluggesellschaft auf Schadenersatz verklagt. Zwei Anwälte stehen nun vor Gericht, denn sie hatten für die Klagebegründung ChatGPT genutzt, und der Bot hatte vorgetragene Präzedenzfälle schlicht erfunden. Der Bot hatte gemerkt, dass man zum Gewinnen im Case-Law-System passende Fälle braucht – und wurde kreativ. Nach dem Ansatz des EU-Parlaments für die KI-Verordnung ist „General-Purpose-AI“ wie die ChatGPT-Anwendung für sich genommen nicht risikobehaftet. Nur den Anbietern eines „Foundation Model“, also des mit vielen Daten trainierten Modells als Basis der Anwendung, werden in einem neu geschaffenen Artikel besondere Pflichten auferlegt. Werden sie eingehalten, gilt der darauf fußende Bot als sicher.

Es klingt plausibel, dass nicht die Technik gefährlich ist, sondern der Mensch, der sie nutzt. Was aber, wenn der Mensch, der nach der KI-Verordnung über den Druck auf die Stopptaste entscheiden muss, eine Technik einsetzt, die er weder verstehen noch beherrschen kann? Die Nutzung einer Software wie ChatGPT beruht auf einem KI-Modell, bei dessen Datenbasis die Herkunft intransparent ist und bei dem es nicht auf richtig, falsch, erlaubt, verboten, für den Kontext sinnvoll, sinnlos oder gar schädlich ankommt. Es ist wie ein wildes künstliches Tier, das man kaum zähmen kann. Wer ChatGPT als Anwalt einsetzt, handelt nach dem Entwurf der KI-Verordnung erlaubt. Für die Nutzung kommt es auf die allgemeinen Regeln an. Wenn der Anwalt in einem Gerichtsverfahren bewusst einen falschen Sachverhalt unterbreitet, dann kann das Betrug sein. Das Recht muss der Richter aber selbst prüfen. Setzt er ChatGPT ein, etwa um zu recherchieren, einen juristischen Dialog zum Fall zu führen oder gar einen Lösungsvorschlag im Urteil zu übernehmen, ist das heikel. Juristische Digitalkompetenz reicht jedenfalls dann nicht aus, wenn die Funktion des Bots zwar weder verstanden noch beherrscht werden kann, wohl aber Ergebnisse hervorbringt, die plausibel sind. Der sorgfältige und kluge Richter braucht dieses System nicht. Den anderen Richter braucht das System nicht, könnte eine provokante These zum Einsatz von ChatGPT sein.

Bayern und Nordrhein-Westfalen haben ein Projekt zur Entwicklung eines „Generativen Sprachmodells der Justiz“ gestartet, das Gerichte etwa in Massenverfahren entlasten soll. Hier geht es um Verbraucherschutz mit schematischen Prüfungen zur Rechtsdurchsetzung im Zivilrecht, etwa in „Diesel-Fällen“. Auch in der Verbrechensbekämpfung wird nicht nur in der Onlinekriminalität ein angemessener Einsatz von KI für den effektiv arbeitenden Rechtsstaat als unverzichtbar eingeschätzt. Bei Bots in der Justiz sollte es nicht um so etwas wie ChatGPT gehen, sondern um spezielle Modelle und darauf aufbauende Systeme mit klarer Verantwortlichkeit. Diese müssten mit dafür ausgewählten Daten, etwa aus Gesetzes- und Urteilsdatenbanken, sowie nach transparenten Kriterien eingespeister Literatur trainiert und in Echtzeit aktualisiert werden.

So etwas kostet viel Geld. Für die Datenbasis, das Training und den Betrieb des Systems, dessen Optimierungsziele und Kontexte und den Korridor der Entscheidungen müsste ein staatliches Rechenzentrum Verantwortung übernehmen, vielleicht auch ein privates Unternehmen. Die Nutzung müsste gegebenenfalls allen Parteien nach festen Regeln offenstehen, damit die Ergebnisse – etwa in der Revision – hinterfragt werden können. Der Bot könnte, auch wenn das sehr weit ginge, wie eine Art Sachverständiger behandelt werden. Ergebnisse von Sachverständigen werden oft übernommen, aber eben nicht unbesehen. Sachverständige werden prinzipiell aufgrund ihrer Kompetenz benannt, und es sind Gegengutachten möglich – das müsste auch für KI gelten. Legt man KI-Entwürfe offen, sind Überraschungsentscheidungen, die das rechtliche Gehör verletzen, ausgeschlossen. Der Ansatz ist aber riskant. Wenn nämlich KI-Systeme im Prozess gegeneinander antreten wie Schachcomputer und sich nur noch selbst überprüfen können, ist der Rechtsstaat abgeschafft.

Dem Sprachmodell müsste also exakt vorgegeben werden, wo die Grenzen seiner Hilfstätigkeit liegen, und es müsste den Rechtsanwender in die Lage versetzen, seine justizielle oder richterliche Entscheidung autonom zu treffen. Der Computer müsste im konkreten Fall verlässlich und transparent offenlegen, auf welchen Parametern und welchen Daten für welchen Kontext sein Vorschlag basiert. Auf dieser Grundlage kann der Mensch Recht schöpfen.

Wie er es aber schaffen soll, dem digitalen Superhirn nicht vertrauensvoll zu folgen, sondern dessen Vorschlag mit dem erforderlichen Misstrauen zu prüfen, bleibt sein Problem. Das hat zwar auch der Arzt, der eine KI-assistierte Diagnose verwerfen will. Die Fälle unterscheiden sich aber fundamental. Nachdem der Arzt dem Patienten die Diagnose der KI und seine Zweifel transparent gemacht hat, muss der Patient selbstbestimmt und eigenverantwortlich entscheiden. Gerichte sprechen Recht über Dritte und üben im Namen des Volkes Staatsgewalt über Menschen aus, ob diese nun wollen oder nicht. Wenn KI-Entwürfe wie Sachverständigengutachten in einen Prozess einflössen, müssten wirksame Vorkehrungen gegen eine Verantwortungsdelegation getroffen werden. Vielleicht besteht die richterliche Eigenleistung künftig darin, zu begründen, warum die KI den Tatbestand richtig erfasst, alle wesentlichen Punkte benannt und die unwesentlichen ausgeblendet hat. Und warum das Ergebnis übernommen wird. Macht der Richter das autonom, klug und gründlich, dann ist dieses System geeignet. Anderenfalls führt es den Roboterrichter ein. Machen wir hier Fehler, kann der Einsatz von KI in der Justiz zur Sollbruchstelle des Rechtsstaats werden.

Kai Zenner ist Leiter des Brüsseler Büros von Axel Voss und hat an den Verhandlungen zum Vorschlag des Europäischen Parlaments mitgewirkt.

Axel Voss (MdEP) ist Berichterstatter der EVP für die KI-Verordnung im Europäischen Parlament.

Monish Darda ist CTO und Mitgründer von Icertis, einem internationalen Anbieter von Contract Lifecycle Management Software.

Professor Dr. Rolf Schwartmann leitet die Kölner Forschungsstelle für Medienrecht an der TH Köln und ist Vorsitzender der Gesellschaft für Datenschutz und Datensicherheit (GDD) e.V. und Mitherausgeber der Fachzeitschrift „Recht der Datenverarbeitung“ (RDV).

Liebe Leserin, lieber Leser,

danke, dass Sie sich an dieser Diskussion konstruktiv, sachlich und kritisch beteiligen wollen. Diesen Bereich haben wir vor Kurzem überarbeitet (mehr dazu). Die Richtlinien für Lesermeinungen finden Sie hier. Fragen, Anmerkungen und Kritik senden Sie uns bitte an leserdialog@faz.de! Wir freuen uns auf Ihren Beitrag!

1000 Zeichen

Dirk Bergmann

filter_list

- 5

Dr Wolfgang Klein

vor 36 Minuten

Zu Axel Voss "Die KI-Regulierung könnte sich ähnlich auswirken: die Marktmacht der Tech-Giganten in KI stärken und Europas Unternehmen endgültig aus dem Markt drängen."

Es ist ein altes europäisches Problem in der Softwareindustrie, dass man Software funktional, regelkonform und gründlich fertigstellt, so weit nur irgend möglich, bevor sie auf den Markt kommt. US-amerikanische Firmen neigen hingegen dazu, halbfertige Bananensoftware schnell auf den Markt zu werfen und sie beim Kunden reifen zu lassen. Dem kommt die geringe Erwartungshaltung (low standards) US-amerikanischer oder internationaler Konsumenten entgegen.

Man sieht es an ChatGPT oder an Teslas Autopilot. Die Produkte stecken voller Fehler, aber der Hype überdeckt alles.

Das Fatale: Diese Strategie hat wirtschaftlich Erfolg, insbesondere dann, wenn die Anbieter über bahezu endlose finanzielle Mittel verfügen. Dagegen sind die EU-Parlamentarier, die nationale Politik und die europäischen Unternehmen echte Schlafmützen.

1

5

3

link

flag

Udo Lorenz

vor 21 Minuten

Die Softwareprofis werden recht schnell die Schwachstellen des Gesetzeswerkes herausgefunden haben, analog zu DSGVO.

1

3

1

link

flag

Dr Wolfgang Klein

vor 12 Minuten

@Lorenz - Die Softwareprofis und - wie im Artikel angesprochen - die Rechtsabteilungen der großen Softwarekonzerne. Gegen die haben unsere Wald- und Wiesenparlamentarier als ambitionierte Amateure doch sowieso keine Chance. Irgendwann werden wir noch darum betteln, mit deren Produkten beliefert zu werden, weil wir so rein gar nichts mehr Eigenes haben werden (höchstens das Jodeldiplom oder - äquivalent - ein Philosophiestudium (abgeschlossen oder abgebrochen)). Die jungen europäischen Unternehmenspflänzchen werden im Erfolgsfall sowieso ganz schnell von irgendeinem Software-Multi geschluckt.

3

1

link

flag

Dr Wolfgang Klein

vor 50 Minuten

"Einige wenige KI-Systeme, etwa zum Social Scoring, welches Menschen nach ihrem sozialen Verhalten klassifiziert und bewertet, werden gänzlich verboten."

Politik, Medien und Unternehmen wollen bei diesem Thema schließlich keine maschinelle Konkurrenz.

4

1

link

flag

Jardiman

vor 1 Minute

KI macht mir weniger Sorgen als HI ( Human Intelligence ), insbesondere was die Arbeit im EU Parlament betrifft ...

Es ist auch ziemlich unlogisch und verlogen sich gegen social Profiling zu stemmen. Jeder Mensch mit dem man es zu tun hat trifft Entscheidungen aufgrund dessen wie er andere bewertet - angefangen beim Lehrer in der Schule, bis hin zum Verkehrspolizisten und Arbeitgeber ... Einer KI würde ich da eher zutrauen vernünftige, und vor allem faire Entscheidungen zu treffen.

2

2

link

flag

Antonin Springer

vor 7 Minuten

Es bedeutet für uns Normalos Einschränkung und für das Militär, die Wirtschaft und die Politik volle Fahrt voraus

2

link

flag

HK47

vor 33 Minuten

Ich habe den Text erstmal nach "biometrisch" und "Massenüberwachung" durchsucht. Kein Treffer. Mmmmh.

1

2

2

link

flag

Dr Wolfgang Klein

vor 53 Minuten

Forderungen nach Funktionsfähigkeit stehen nicht im Gesetz?

2

1

link

flag

EmilTain

vor 7 Minuten

Die AfD hat bereits damit begonnen, gefälschte Bilder auf Twitter zu posten.

Auf Anfrage hat der Bundesvorstand der AfD bereits angekündigt weiterhin die Fakes zu benutzen. Knallhart.

1

1