KI-Reallabore:

Der Raum für Innovation droht sich zu schließen

Gastbeitrag

Von

Tobias Keber

Lesezeit:  Min.

Blick in ein Reallabor zum automatisierten Fahren

Reallabore könnten der KI-Forschung zum Durchbruch verhelfen. Doch ein geplantes Gesetz behindert ihre Einrichtung.

- Anhören

- Merken

- Teilen

- Drucken

Vertreter der Wirtschaft forderten in dieser Zeitung kürzlich mehr Raum für Innovation. Dass die Künstliche Intelligenz dabei eine tragende Rolle spielt, liegt auf der Hand, ebenso wichtig ist die Absicherung gegen die mit ihr verbundenen Risiken. Der europäische Gesetzgeber hat dieses Problem erkannt und in der KI-Verordnung eine Vorschrift geschaffen, die die Verwendung sensibler Daten zur Entwicklung, zum Training und zum Testen von KI-Systemen erlaubt. In sogenannten KI-Reallaboren sollen personenbezogene Daten unter vereinfachten Bedingungen verarbeitet werden können. Es handelt sich um geschützte Räume für Innovation.

Für die Erforschung und Entwicklung Künstlicher Intelligenz in Deutschland könnte das ein Durchbruch sein, was sich exemplarisch an einem aktuellen Projekt des Universitätsklinikums Heidelberg zeigt. Unter der Federführung von Felix Sahm, dem stellvertretenden ärztlichen Direktor der dortigen Neuropathologie, wird derzeit von einem internationalen Forschungsteam ein KI-System entwickelt, das die Diagnostik und Therapie von Hirntumoren grundlegend verändern könnte. Die datenrechtliche Begleitung des Projekts soll der Jurist Rolf Schwartmann, Leiter der Kölner Forschungsstelle für Medienrecht an der Technischen Hochschule Köln, übernehmen. Ziel des Projekts ist eine technisch gestützte Begleitung der onkologischen Behandlung, die den behandelnden Arzt von der Anamnese-Erhebung und deren Interpretation über die Analyse der Bildgebung und Gewebeprobe bis hin zur Therapie unterstützt. Daneben soll das System in der Lage sein, aus seinen Beobachtungen und Kenntnissen Leitlinien zu erstellen.

Für die Entwicklung solcher KI-Systeme müssen Forscher große Mengen an Daten verarbeiten, die teilweise sensible Informationen über den Gesundheitszustand von Patienten enthalten. Obwohl in der medizinischen Forschung hohe Datenschutzstandards herrschen, ist unklar, ob sich die Entwicklung eines KI-Systems mit sensiblen Daten auf die Rechtsgrundlagen stützen lässt, die die Datenschutzgrundverordnung zur Verfügung stellt. Deshalb führt der europäische Gesetzgeber mit der KI-Verordnung eine neue Rechtsgrundlage für die Entwicklung von speziellen KI-Systemen mit sensiblen Daten ein. Voraussetzung eines solchen Daten-Bypasses für die Gesundheit ist, dass das KI-System in einem KI-Reallabor entsteht.

Der Raum für Innovation droht sich zu schließen

Grundsätzlich erlaubt die KI-Verordnung den Mitgliedstaaten den Betrieb von so vielen KI-Reallaboren, wie sie für sinnvoll erachten. Mindestens ein solches Reallabor muss jeder Mitgliedstaat verpflichtend einrichten, weitere Reallabore auch auf regionaler und lokaler Ebene sind möglich. Das ist ein kluger Ansatz: Innovation entsteht vor Ort, an Forschungseinrichtungen im öffentlichen Sektor oder an unternehmerischen Knotenpunkten.

Doch genau hier liegt das Problem des Referentenentwurfs für das nationale Durchführungsgesetz zur KI-Verordnung, den das neu geschaffene Digitalministerium gerade vorgelegt hat. Er könnte den dringend benötigten Raum für Innovation vor Ort wieder verschließen. Denn nach dem Entwurf soll im Wesentlichen die Bundesnetzagentur für die Einrichtung von KI-Reallaboren verantwortlich sein. Lediglich in spezifischen Sektoren sollen auch Landesbehörden KI-Reallabore einrichten dürfen.

Ebenso wie die KI-Verordnung sieht der Referentenentwurf vor, dass die Einrichtung weiterer KI-Reallabore auf regionaler und lokaler Ebene möglich sein soll. Die Bundesnetzagentur wird das allerdings schon aus organisatorischen Gründen nicht stemmen können, und die Landesbehörden können nur in eng begrenzten Ausnahmefällen KI-Reallabore im Sinne der KI-Verordnung einrichten, da sie ansonsten keine zuständigen Behörden sind. Damit würde eine wichtige Rechtsgrundlage zur Datenverarbeitung in Deutschland in der Fläche ausgebremst. Das könnte der Sargnagel für die Maßnahmen zur Innovationsförderung in der KI-Verordnung sein.

Innovationsförderung und Grundrechtschutz

Hintergrund des Dilemmas ist der im Entwurf offenbarte politische Wille des Bundesgesetzgebers, die Datenschutzaufsichtsbehörden bei der KI-Aufsicht außen vor zu lassen. Dem Konzept zufolge soll sogar in grundrechtssensiblen Bereichen die Aufsicht allein bei einer neu zu schaffenden unabhängigen Marktüberwachungskammer innerhalb der Bundesnetzagentur liegen. Die Landesdatenschutzbeauftragten äußerten in einer gemeinsamen Stellungnahme erhebliche Zweifel daran, dass die Vorstellungen des europäischen Gesetzgebers damit ausreichend umgesetzt werden.

Der Bundesgesetzgeber traut den Datenschutzaufsichtsbehörden wegen ihres grundrechtsbezogenen Auftrags nicht zu, die Wirtschaft ausreichend bei der KI-Entwicklung zu unterstützen. Die Datenschutzaufsichtsbehörden erwidern, dass Innovationsförderung Teil des von ihnen zu leistenden Grundrechtsschutzes sei. Schließlich müsse man das Datenschutzrecht stets im Einklang mit anderen Grundrechten wie Wissenschafts- und Gewerbefreiheit gewährleisten.

Mehr zum Thema

- Künstliche Intelligenz

Deutschland sollte sich bei KI sicher sein

- Bürokratie

Schilda grüßt überall

- Deutscher Anwaltspiegel

Wie China generative KI regulieren möchte

Was also ist zu tun? Wir haben die Möglichkeit, aus den Fehlern bei der Durchsetzung der Datenschutzgrundverordnung zu lernen und die Innovationsförderung bei der Umsetzung der KI-Verordnung von Anfang an mitzudenken. Dazu gehört, alle Spielräume auszunutzen, die der europäische Gesetzgeber öffnet. Ein großes und bevölkerungsreiches Land wie Deutschland darf seinen KI-Entwicklern und Unternehmensgründern nicht nur ein zentrales KI-Reallabor zur Verfügung stellen, sondern muss die Reallabore dorthin tragen, wo sie benötigt werden. Der nationale Gesetzgeber hat das grundsätzlich erkannt, muss es aber auch konsequent umsetzen. Im Durchführungsgesetz braucht es daher einen Zusatz, der etwa lauten könnte: „Wird ein KI-Reallabor auf regionaler oder lokaler Ebene eingerichtet, sind die nach Landesrecht zuständigen Behörden die dafür zuständigen Marktüberwachungsbehörden.“

Mit diesem Zusatz verbliebe die Aufsicht über die Durchsetzung der KI-Verordnung dem politischen Willen entsprechend bei der Bundesnetzagentur. Allerdings hätten die Länder die Möglichkeit, regionale Innovationen dem Willen des europäischen Gesetzgebers entsprechend wirksam und vor Ort zu fördern.

Tobias Keber ist Landesbeauftragter für den Datenschutz und die Informationsfreiheit Baden-Württemberg.