Dr. Christian Djeffal ist Professor für Recht, Wissenschaft und Technik an der TU München. Dort beschäftigt er sich mit dem Verhältnis von Recht und Technologie und arbeitet schwerpunktmäßig zu neuen Technologien wie künstlicher Intelligenz und dem Internet der Dinge.

Was waren ihre ersten Berührungspunkte mit Recht und Technik und wann sahen Sie beide Themen zum ersten Mal in Kombination?

Technisch war ich durch Zufall ein early adopter und „interessierter Anwender“, weil ich im Siemensmuseum – das es heute leider nicht mehr in München gibt – früher als Viele einen ersten Zugang zum Internet in seiner Urform hatte, als Studierender am University College London als einer der Ersten Zugang zu Facebook. Während des Studiums habe ich mehrere Seminare zu IT und Recht der European Law Students Association (ELSA) besucht, wobei es für mich genauso wichtig war in Europa herumzukommen und Studierende aus anderen Ländern kennen zu lernen. Mein wissenschaftliches Aha-Erlebnis war die Cyberwar-Debatte, die ich ab 2009 neben meiner Promotion im Völkerrecht intensiv beforscht habe. Ich glaube zwar nicht, dass Kriege morgen schon komplett im Internet geführt werden können oder sollen, aber ich habe damals bemerkt, wie dieses Thema unterschätzt und oft auch falsch bewertet wurde. Digitale Dienste wie Kartenapps bekommen in solchen Situationen eine ganz andere Bedeutung. Digitale Systeme sind Teil unserer Infrastruktur geworden, auch der kritischen, dementsprechend kann man alle Bereiche der Daseinsvorsorge auch mit digitalen Mitteln angreifen und ggf. sogar ausschalten. Ich fürchte, dass wir uns immer noch keinen Begriff von den Möglichkeiten machen, weil sie bisher nicht ausgeschöpft wurden. Als ich meine Promotion 2012 abgeschlossen hatte, wollte ich mich intensiver mit dem Thema befassen. Ich arbeitete eine Zeit in der IT-Rechtsabteilung einer großen Kanzlei, bereitete Stationen meines Referendariats vor und versuchte aktuelle Trends in der IT zu verstehen. Zu dieser Zeit stieß ich auf den Imagenet-Wettbewerb und einen Quantensprung im Bereich künstliche Intelligenz durch sogenannte convolutional neural networks. Das war damals ein absolutes Exotenthema, aber die Informatiker begriffen das Potential sofort. Seitdem forsche ich zu künstlicher Intelligenz

Wo sehen Sie die besonderen Chancen der interdisziplinären Studien rund um künstliche Intelligenz und Recht?

Wie sollen wir eine Zukunft regeln, die wir noch gar nicht kennen? Können wir das rechtsdogmatisch lösen oder durch Informatik? Welche Rolle spielt das Recht, wenn es darum geht, die Zukunft aktiv zu gestalten? Künstliche Intelligenz ist ein Bündel von emergenten Technologien, deren Möglichkeiten und Risiken wir erst im Laufe der Zeit verstehen. Viele Innovationen werden unser Verständnis der Möglichkeiten, Limitationen und Auswirkungen wesentlich weiterentwickeln. Gleichzeitig prägen unsere Wünsche, Vorstellungen und Ideen die technische Entwicklung ganz wesentlich. Mit dieser Gemengelage ist jede Disziplin einzeln überfordert. Als Jurst*innen können wir dazu viele wertvolle Beiträge beisteuern. Wenn wir uns aber auf andere Methoden und Ansätze aus den Geistes- und Sozialwissenschaften und der Informatik einlassen, können wir dabei viel gewinnen. Denn so können wir Gegebenheiten, Probleme und Konflikte besser verstehen. Das ist gerade für die juristische Arbeit von unschätzbarem Wert. Denn wie wollen Sie ein Problem juristisch bewerten, bevor Sie es richtig verstanden haben? Das ist so, als würde man ein Rechtsgutachten zu einem Sachverhalt erstellen, den man nur in Teilen kennt und nicht wirklich verstanden hat. Das kann nur schiefgehen und das geht auch oft schief. 

Ich glaube, dass es daneben aber noch eine ganz andere und vielleicht noch wichtigere Chance gibt, nämlich selbst Teil innovativer Arbeiten zu werden und Technik selbst- oder mitzugestalten. Es geht auch darum zu verstehen, was das Recht für die Ziele unserer Verfassung leisten kann und inwiefern man das Recht selbst neu denken kann. Auch im Bereich Innovation spielt Interdisziplinarität eine große Rolle, nicht zuletzt im Bereich Legal Tech.

Das Ziel von Rechtech, eines Ihrer Projekte, das vom Bundesministerium für Bildung und Forschung gefördert wird: die Rechtswissenschaft als ko-produktive Kraft und Ressource für Technikgestaltung auszuloten und den Einsatz von Recht und Technik kooperativ zu gestalten.
Was genau können wir darunter verstehen und wie ist Ihre Vorgehensweise anhand von Beispielen?

Das Projekt formuliert eine Antwort auf die Frage, welche neuen Ansätze verschiedene wissenschaftliche Perspektiven auf das Thema Digitalisierung integrieren können. Ganz konkret forschen wir an zwei Interventionen zum Thema Recht und Digitalisierung. Die eine soll sich auf Rechtsberatungssituationen beziehen und ist noch in Arbeit. 

Die andere Intervention ist eine Innovationswerkstatt, in der wir Teilnehmer*innen befähigen, selbst neue Ideen für den Einsatz künstlicher Intelligenz zu entwickeln und diese auch aktiv auszugestalten. Das Ganze ist in einen Workshop eingebettet, den wir schon mit ganz unterschiedlichen Gruppen durchgeführt haben, von Führungskräften in Management und Verwaltung bis hin zu interessierten Bürger*innen. Die Teilnehmer*innen haben dabei bereits eine ganze Menge toller Ideen entwickelt und eine Idee haben wir auch umgesetzt: viele Teilnehmer*innen haben sich eine Ãœbersetzungsmaschine zur Sprachvereinfachung gewünscht, z.B. in Leichte Sprache. Durch die Workshops haben wir verstanden, dass es einen großen Bedarf an Ãœbersetzungsunterstützung gibt und dass technische Möglichkeiten bestehen. Wir haben das also juristisch ausgeleuchtet und mit einer engagierten Informatikerin einen Demonstrator für Forschungszwecke und zur Nutzer*innenbeobachtung gebaut. Jetzt betreue ich eine Masterarbeit in Zusammenarbeit mit SAP, die das Potential einer solchen Anwendung für verschiedene Stakeholder verstehen will. Daneben unterstützen wir auch ein Startup an der TUM, das diese Idee umsetzen möchte. Genau solche Ideen möchte dieser Teil unseres Projekts hervorbringen. 

Die Verantwortung des Juristen im 21. Jahrhundert: Innovation fördern und trotzdem zum gemeinwohlverträglichen Einsatz von Technologie und Digitalisierung beitragen. Woraus leiten Sie diese Annahme her und inwiefern steht das im Gegensatz zueinander? 

Innovationen bedeuten Wandel, damit gehen Unsicherheiten einher, unbeabsichtigte Konsequenzen und Risiken, die sich oft in tragischer Weise realisieren. Gesellschaftlicher und technischer Wandel ist oft konfliktreich, schwierig und fordert Opfer. Es wäre leicht, hier eine ablehnende Haltung einzunehmen und sich etwa der Digitalisierung zu verschließen. In der Rückschau auf die vergangenen 80 Jahre glaube ich aber, dass die Einflussmöglichkeiten für Jurist*innen und überhaupt für Bürger*innen viel größer sind, wenn sie sich bewusst einbringen und versuchen Einfluss zu nehmen und selbst auch auf die Prozesse einzuwirken. Wenn man sich bewusst in diese Prozesse einschaltet, akzeptiert man sie zu einem gewissen Grad. Es geht dann oft nicht mehr nur um das „Ob“, sondern auch um die Frage des „Wie“. Ich glaube, es wäre blauäugig oder unehrlich vorzugeben, dass gesellschaftlicher und technischer Wandel vollständig gemeinwohlverträglich entwickelt und gestaltet werden kann. Trotzdem sollte man es versuchen, ohne dabei Risiken aus dem Blick zu verlieren und die Spannungen zu negieren, die durch solche Wandlungsprozesse hervorgerufen werden. 

Die Europäische Kommission hat im April 2021 einen Vorschlag zur Regulierung von KI vorgelegt. Inwiefern kann Überwachung und Regulierung durch die Verwaltung die KI-Forschung voranbringen? Was ist vor diesem Hintergrund bereits passiert?

Aus Sicht der EU-Kommission können einheitliche Regeln die Zusammenarbeit zwischen Anbietern erleichtern und Regulierungshemmnisse abbauen, die nicht auf die Technologie passen. Das können wir im Medizinprodukterecht beobachten, das sich lange mit der Bewertung von Software schwergetan hat. Der Vorschlag zur KI-Regulierung sieht sogar eine Struktur für Forschung ohne rechtliche Hemmnisse vor, also Reallabore oder Sandboxes. Bei diesen möglichen positiven Effekten von Regulierung geht es um bessere Regeln oder weniger Regulierung. 

Die EU-Kommission legt auch großen Wert auf die Schaffung von Vertrauen bei Verbraucher*innen und anderen Kund*innen. Natürlich ist Vertrauen eine große Voraussetzung für den Erfolg einer Technologie. Dass das Recht eine große Rolle in solchen Kontexten spielt, wusste schon Luhmann, der die Funktion des Rechts in der Stabilisierung von Erwartungen sah.

Rechtliche und soziale Anforderungen können Innovationen aber auch stimulieren. Das sieht man etwa beim Datenschutz, der zu einer Spielwiese für die Informatik geworden ist. Im Bereich der künstlichen Intelligenz sticht insbesondere die Transparenzforschung hervor. Eine ganze Community von Informatiker*innen befasst sich mit der Frage, wie man verständlich machen kann, warum KI bestimmte Entscheidungen trifft. Bei solchen Innovationsaufgaben können sich auch Jurist*innen einschalten, weil Informatiker*innen  auch Unterstützung brauchen, wenn es um Themen wie Transparenz, Diskriminierung oder Verantwortung geht. Das sind Themen, wo das Recht zum Wohle des technischen Fortschritts, aber auch gemeinwohlfördernd mitgestalten kann. 

Das beste kommt nun zum Schluss. Hier ist unser erstes Interview als Video mit zusätzlichen, spannenden Fragen und Antworten von Prof. Dr. Djeffal:

Vielen Dank für das Gespräch, Herr Djeffal!