Jusletter IT

Rechtsvisualisierung nach Lachmayer¹ ermöglicht es, das Digitale und Formale gemeinsam mit dem Situativen und Intentionalen zu einer einheitlichen Sinngebung kommunikativ zu verbinden und für Zwecke der Rechtsinformatik zu nutzen.

Dieses Potenzial steht in Kontrast zu reduktionistischen und einseitig effizienzorientierten Bestrebungen zur digitalen Transformation des Rechts.

Auf eine solche Perspektive wird seit den Anfängen der Formalisierung und der Wissensrepräsentation des Rechts fokussiert, unter Vernachlässigung der dadurch entstehenden Probleme.² Es droht die Gefahr, dass durch eine in die Zukunft gierende Technikfixierung das Recht zur Algokratie³ verkommt und seiner eigentlichen Bedeutung als regel- und wertebasiertes soziales Steuerungs- und Konfliktvermeidungssystem entkleidet wird.

In diesem Beitrag untersuche ich den Artikel «The Path of the Law: Toward Legal Singularity» von Benjamin Alarie,⁴ der stellvertretend für diese reduktionistische und spekulative Sichtweise der Digitalisierung des Rechts steht, näher auf seinen wissenschaftliche Hintergrund und seine methodische Nachvollziehbarkeit.

1814 schrieb Pierre-Simon Laplace⁵ im Vorwort des «Essai philosophique sur les probabilités»:

«Eine Intelligenz, die in einem gegebenen Augenblick alle Kräfte kennt, mit denen die Welt begabt ist, und die gegenwärtige Lage der Gebilde, die sie zusammensetzen, und die überdies umfassend genug wäre, diese Kenntnisse der Analyse zu unterwerfen, würde in der gleichen Formel die Bewegungen der größten Himmelskörper und die des leichtesten Atoms einbegreifen. Nichts wäre für sie ungewiss, Zukunft und Vergangenheit lägen klar vor ihren Augen.» ⁶

2016 veröffentlichte Benjamin Alarie, ein Steuerrechtsexperte, Professor an der Rechtswissenschaftlichen Fakultät der Universität of Toronto,⁷ und Geschäftsführer einer Firma für «Legal Predactibility», in seinem Artikel «The Path of the Law: Toward Legal Singularity» diese Aussagen:

«The accumulation of massively more data and dramatically improved methods of inference make legal uncertainty obsolete. […] The legal singularity contemplates the elimination of legal uncertainty and the emergence of a seamless legal order, universally accessible in real-time.» ⁸

Obwohl diese beiden Texte über 200 Jahre auseinander liegen und sich die eine auf die physische Realität bezieht, die andere auf eine angestrebte Transformation des Rechtssystems, sticht ihre Ähnlichkeit ins Auge:⁹

Dass der Laplasche’sche Dämon unhaltbar ist und der naturwissenschaftliche Determinismus zu kurz greift, lässt sich einfach begründen:

• Die kartesianische Idee, dass die Welt aus einfachen Newton’schen Kräften besteht, die auf diskrete Teilchen wirken, wurde von der Quantenphysik widerlegt.
• Und weil der Dämon selbst Teil des beobachteten Universums wäre, das beobachtende und das beobachtete System zusammenfiele, müsste er sein eigenes Verhalten vorhersagen können, was informations- und systemtheoretischen Grundsätzen widerspricht.

Deshalb wird vom «Laplace’schen Dämon» gesprochen – als Wunschvorstellung und Hirngespinst.

Was bedeutet das für die Thesen von Alarie? Ist eine «Singularität des Rechts» als eigenautonome Rechtsautomatisierung durch Künstliche Intelligenz (KI) tatsächlich möglich?

Alarie lässt keine Zweifel aufkommen: Er folgt seiner Idee, ohne weitere Differenzierungen vorzunehmen¹⁰ oder Beschränkungen zu prüfen, die einer digitalen Exekutive, Judikative oder gar Legislative entgegenstehen könnten.

Damit ist er nicht alleine: Im Sog von Transhumanismus, Solutionismus, Digitalismus, Futorologie und von Longtermismus häufen sich im Bereich des Rechts wissenschaftlich anmutende Beiträge, die sich prophetisch mit der Digitalisierung des Rechts beschäftigen und auf eigenartig naive Weise Rechtsdystopien herbeischreiben, vor deren Eintritt sich jeder Mensch, der an das Recht und die dahinterstehende werteorientierte gesellschaftliche Ordnungskraft und damit garantierte persönliche Freiheiten glaubt, fürchten muss.

In diesem Beitrag werde ich die Thesen von Alarie kritisch dekonstruieren und Argumentationsmuster nachweisen, die für diese Kategorie von Texten typisch ist.

Der Artikel von Alarie ist im akademischen Kontext entstanden. Dennoch bleibt unklar, auf Basis welcher wissenschaftlich-rationaler Methoden er zu seinen Behauptungen und Thesen kommt, nach denen Rechtsfindung und Rechtssetzung künftig mit Hilfe von KI vollständig automatisiert werden könnten.

So eröffnet er mit einem Zitat aus dem Jahr 1897, in dem Oliver Wendell Holmes jr. behauptet,¹¹ dass Statistik und Wirtschaft die Zukunft des Rechts prägen werden. Das ist nicht verwunderlich, sah Holmes doch die Vorhersage von Gerichtsentscheidungen¹² als Hauptaufgabe des Rechts¹³ – eine vereinfachende Einschätzung, die wohl zu kurz greift.¹⁴

Dann behauptet Alarie, dass die von ihm propagierte Singularität die Idee des Equilibrums nach Rawls¹⁵ umsetzen könne. Abgesehen von der Frage, ob und wie weit das Konzept von Rawls überhaupt trägt,¹⁶ vergleicht Alarie damit eine politische Theorie, die sich auf soziale Systeme und menschliche Interaktionen bezieht, mit digitaler Automatisierung als technischem System, ohne auf grundsätzliche Affinitäten zwischen diesen beiden Systemformen einzugehen.

Wie die von Alarie propagierte Singularität das von Rawls angedachte Equilibrum des Rechts umsetzen soll, und wie beides sich aufeinander beziehen lässt, bleibt im Dunkeln.

«Will man die Ontologie einer Theorie diskutieren, so stellt man damit gewisse Anforderungen an die Rahmentheorie, in der sich die Diskussion abspielt.» ¹⁷

Angesichts dieses diffusen methodischen Hintergrunds möchte ich meine Verortungs- und Bewertungskriterien offenlegen.

Diese Kriterien basieren auf wissenschaftlich-methodischen Ansätzen, die als bekannt vorausgesetzt werden können. Ein vertieftes Eingehen auf einzelne Ansätze erscheint an dieser Stelle insofern überschiessend, als sich die hier angestrebte Durchdringung und Kritik des von Alarie postulierten Singularismus des Rechts – wegen der ihm fehlenden ontologischen Positionierung – mit diesen grundlegenden Konzepten bereits überzeugend durchführen lässt.¹⁸

Ich gehe in diesem Beitrag von einem systemtheoretischen Ansatz aus, wie er massgeblich von Niklas Luhmann geprägt und ausdifferenziert worden ist.¹⁹ Das Recht ist nach dieser Auffassung ein soziales System, das eng mit der Gesellschaft als System verknüpft ist, bzw. eines ihrer Subsystems darstellt.

Systeme bestehen aus Entitäten und Relationen als Ensemble von Komponenten, die miteinander agieren und sich von ihrer Umwelt abgrenzen, mit dieser aber gekoppelt sind.

Ich unterscheide psychische, soziale und formale Systeme, deren letztere als technische Systeme ausgeformt werden können, und die sich jeweils vor ihrer spezifischen Umwelt als Hintergrund konstitutieren.

Psychische und soziale Systeme sind offene, formale technische hingegen geschlossene Systeme.²⁰

Nach March²¹ setzt das Fällen von rationalen Entscheidungen durch Menschen in Organisationen voraus, dass

1. die Entscheidungsalternativen geklärt sind,
2. die Konsequenzen und Erwartungen an die Entscheidung, sowie
3. die Präferenzen zum Treffen von Entscheidungen²² gesetzt sind, und dass schliesslich
4. eine Entscheidungsregel vorliegt.

Um eine rationale Entscheidung, also um korrekte und legitimierte rechtliche Entscheidungen zu treffen, genügt es also nicht, dass lediglich «Inferenzregeln» vorliegen.²³

Als «subjektiv» bezeichne ich eine Meinung oder Aussage, die von einer Einzelperson, auf Basis und als Ergebnis des Denkvollzugs eines psychischen Systems, getätigt wird. Eine solche Aussage kann wahr oder falsch sein, sie kann neutral oder vorurteilsbehaftet, mit oder ohne «cognitive bias» sein.

Eine subjektiv explizierte Aussage kann von anderen (psychischen Systemen) verstanden werden, da ihr Bedeutungsgehalt mit Hilfe von Sprache geteilt werden kann.²⁴ Sie ist dann intersubjektiv nachvollziehbar.²⁵

Eine subjektiv explizierte Aussage kann zudem objektiv richtig sein, falls sie sich objektivieren lässt. Dazu sind nur Menschen in der Lage: Objektivität ist nach Gaukroger ein charakteristischer Wesenszug des Menschen, «da nur Menschen die Fähigkeit zur Objektivität besitzen».²⁶

«Objektiv» richtig ist eine Aussage dann, wenn die «subjektive» oder «intersubjektiv» geteilte Aussagen als Meinungen von mehreren Einzelpersonen im Rahmen einer Reflexion oder eines formalen Prozesses durch ein soziales System, nach offengelegten und intersubjektiv nachvollziehbaren Rahmenbedingungen geprüft und verifiziert worden ist, z.B. eben als rationale Entscheidung nach March.

Das kann im wissenschaftlichen Rahmen eines «Peer Review» Prozesses oder im Rahmen eines gerichtlichen Instanzenzugs²⁷ erfolgen. Im Ergebnis wird man diese Sichtweise als «bescheidene Objektivität» einordnen können.²⁸

In der aktuellen Diskussion wird häufig das Thema kognitiver Verzerrungen, des «cognitive bias» von menschlichen Entscheidungen in den Vordergrund gestellt.²⁹

Demnach seien subjektive Aussagen regelmässig von persönlichen Vorurteilen oder unbegründeten Vorurteilen geprägt. Häufig wird die KI dann als Lösung propagiert, da sie, so eine weit verbreitete falsche Annahme, immer objektiv entscheide.

Dabei wird übersehen, dass es im Rahmen eines Objektivierungsverfahrens, wie z. B. dem rechtlichen Instanzenzug, in der Regel sehr einfach ist, kognitive Verzerrungen aufzudecken.

Genau das ist der eigentliche Sinn und die Aufgabe des Rechtssystems als sozialem System, nämlich rechtliche Objektivität regelmässig neu herzustellen.

Die Rechtsanwendung muss und kann nach diesem Verständnis aus prinzipiellen Gründen nie «objektiv» (als den «eigentlichen Fakten eindeutig entsprechend») sein, sollte in diesem Sinn aber immer als rationale Entscheidung³⁰ objektivierbar sein.

Dies wird im Recht durch Interpretation und Argumentation, die Bedeutung im Einzelfall herstellt und die damit einhergehende, im demokratischen Kontext erforderliche Begründungspflicht ermöglicht.³¹

Die Annahme, dass KI frei von kognitiven Verzerrungen sei, überzeugt nicht, weil gerade KI-Anwendungen regelmässig damit auffallen.³² Der kognitive Bias ist zudem ein systemisches Grundproblem der KI, das sich auch nicht auf fehlerhafte Datenqualität³³ reduzieren lässt.

Das verwundert deshalb nicht, weil KI-Systeme von Menschen geschaffen sind und kein Grund ersichtlich ist, warum ein von Menschen und Organisationen (als psychischen und sozialen Systemen) erschaffenes technisch-formales System fehlerfreier sein soll als die systemischen Voraussetzungen, unter denen es entstanden ist,³⁴ erst recht, weil der Begriff der «Fehlerfreiheit» ja genau wieder von den psychischen und sozialen Systemen, also ausserhalb des KI-Systems, festgelegt wird.

Dem entsprechend versuchen KI-Anbieter mit Hilfe von «Alignment» gegenzusteuern und Compliance durch Zusatzfilter und Korrekturregeln ex post wieder herzustellen, also den zuvor wegdigitalisierten gesunden Menschenverstand nachträglich und von ausserhalb des KI-Systems wieder einzubauen.³⁵

Damit laufen die Anbieter von KI-Systemen dem eigentlichen Problem hinterher: Bei diesem Whac-a-mole-Ansatz³⁶ wird das Risiko nur reaktiv im Anlassfall durch menschliche Handlungen mitigiert und trotz eines enorm hohen Aufwands nie systematisch ausgemerzt.

Damit lässt sich aber keine Objektivität erzielen, die als Objektivierung ein transparentes soziales Verfahren voraussetzt, das in diesem Fall höchstens im Vorhinein als Regulierung durch objektivierbare Festlegung der Rahmenbedingungen für das eingesetzte KI-Modell mit seiner Datenbasis und den Entscheidungsregeln denkbar ist.

Das Problem entsteht durch die Realitätsblindheit von KI-Systemen.³⁷ Wegen der Intransparenz der Entscheidungsfindung lassen sich KI-Systeme zudem diskret missbrauchen.^{38, 39}

Für sie spricht lediglich ihr Funktionieren, soweit es sich in der Praxis bewährt,⁴⁰ als funktionierende Simplifikation, die Konsens einspart⁴¹ – auf Kosten von Objektivität, die Konsens zur Objektivierung voraussetzt.

Wir werden auf dieses Thema zurückkommen, wenn ich den Begriff der «Abjektivität» als Bezeichnung für realitätsagnostische Ausgaben von KI-Systemen einführe.⁴²

Sprachen dienen der Interaktion von Systementitäten innerhalb des Systems und der Kommunikation des Systems mit seiner Umwelt, technisch mediatisierbar, aber immer ausgeführt durch Menschen als psychische Systeme.

Es lassen sich weiters natürliche Sprachen, Fachsprachen und formale Sprachen unterscheiden, wobei formale Sprache nicht ohne Fachsprachen denkbar sind und Fachsprachen nicht ohne natürliche Sprachen.^{43, 44}

Formale Sprachen können mit einem Kalkül versehen sein. Darunter versteht man Regeln, mit denen Schlüsse gezogen werden können.

Eine bedeutungsvolle Entscheidung setzt die Identifikation der Situation voraus und stimmt mit der Identität, dem Selbstverständnis und den Prinzipien der Beteiligten überein.⁴⁵ Neben Mythen, Symbolen und Ritualen ist vor allem die Sprache das zentrale Werkzeug, um Bedeutung zu schaffen.⁴⁶

Zur Einordnung von Sprache und Zeichen verwende ich den dreigliedrigen Zeichenbegriff nach Morris. Er unterscheidet Syntax als formale Eigenstrukturen der Zeichen und Zeichenfolgen, Semantik als inhaltliche Dimension, auf die jedes Zeichen verweist, und Pragmatik als konkreten Kontext, in dem die Zeichenfolge wirkt.⁴⁷

Um die Sprache wirksam zu nutzen, ist es unerlässlich, dass die Beteiligten verstehen, wie sie Bedeutung trägt und entfaltet – und dass sie damit umgehen können.⁴⁸

Als Grundlage juristischer Kompetenz⁴⁹ sind die semantische und die pragmatische Komponente unerlässlich. Beide gehen digitalen Maschinen ab, die nur auf Basis syntaktischer Vorhersagen funktionieren.

Systeme reagieren auf ihre Umwelt und sind lose gekoppelt.⁵⁰ Damit ist gemeint, dass geänderte Umweltbedingungen oder die Kommunikation geänderter Systemvariationen eines Fremdsystems keine direkte Auswirkung auf das eigene Systemverhalten hat, sondern lediglich interne Abläufe und eigengesetzliche Prozesse anstösst, die eigene Handlungsoptionen aktivieren können – oder auch nicht.

Es spielen weitere interne Rahmenbedingungen der jeweiligen Organisation mit, die schliesslich zu einer angemessenen⁵¹ Entscheidungsfindung führen..

Wegen mangelnder Formalisierbarkeit und Realitätsblindheit von KI-Systemen sind sie weder in der Lage, rationale Entscheidungen nach der Definition von March zu fällen, noch können sie mangels Eigenreflexion lose an ihre Umwelt gekoppelt werden.

Es fehlen ihnen dafür eine sensorische-konzeptionelle Wahrnehmung, Eigenbewusstsein und die in Organisationen orchestrierbare Interpretationsfähigkeit psychischer Systeme. Das bedeutet, dass sie Umweltveränderungen oder Einflüsse anderer Systeme nur entsprechend ihrem fixen digitalen Interface (bei ChatGPT z. B. als «Prompts»⁵²) übernehmen können. Ihre Varietät ist darauf beschränkt und ihre Steuerungsfähigkeit entsprechend eingeschränkt.⁵³

Untersuchen wir nun die Argumente von Alarie. Wir beginnen mit seinen Verweisen auf bisherige Erfolge beim Einsatz von Künstlicher Intelligenz.

GO ist ein japanisches Brettspiel mit klar definierten Regeln. Im Jahres 2016 gelang es dem KI-Programm DeepMind, weltweit führende GO-Spieler zu schlagen. Das wurde, wie schon zuvor der Sieg von IBM’s Schachcomputer DeepBlue über Kasparow 1996, als Durchbruch von KI-Anwendungen gefeiert.

Dieser Erfolg von GO wird von Alarie als Argument für die Fortschritte der KI instrumentalisiert, die im rechtlichen Bereich zur «Singularität des Rechts» tragen könne.

GO ist ein Spiel. Ein Spiel ist eine abgegrenzte formale Regelsammlung, auf die sich die Teilnehmer für die Dauer des Spiels einigen.⁵⁴

Ein Spiel in diesem Sinn ist ein geschlossenes formales System, das über ein einfaches Systeminterface (Positionierung bzw. Repositionierung eines Spielsteins) mit seiner Aussenwelt agiert.

Der Ablauf und die Ergebnisse eines GO-Spiels sind entsprechend der Regeln subjektiv nachvollziehbar und deshalb objektivierbar. GO kann als formales System direkt digitalisiert und technisch umgesetzt werden und steht damit paradigmatisch für strikt formalisierbare Problemstellungen, die sich einfach mit KI lösen lassen.

Die anekdotische Referenz von Alarie auf einzelne Erfolge von KI-Anwendungen in GO als Spiel können nicht erklären, weshalb KI im Recht, das als soziales System in der Gesellschaft ganz andere Leistungen vollbringt, erfolgreich sein soll bzw. nach welchen Kriterien dies dann gemessen werden würde.⁵⁵

Dass KI kein Selbstläufer ist, beweist der Misserfolg von IBM beim Versuch, mit dem Erfolg von DeepBlue im Rücken und mit Hilfe eines enorm hohen finanziellen Engagements, Patientenakten sinnvoll auszuwerten und damit medizinische menschliche Intelligenz mit «Dr. Watson» nachzumodellieren.⁵⁶

Alarie führt das Steuerrecht als «illustratives» Beispiel an und behauptet, dass sich Lösungen dort auf sämtliche anderen Bereiche des Rechts direkt anwenden lassen.

Das Steuerrecht unterscheidet sich von anderen Rechtsgebieten dadurch, dass nach Klärung der Fakten die Rechtsfolge als Steuersaldo formal und mathematisch berechnet werden kann.

In einem Steuerverfahren, das als Prozess in einem sozialen System von der Steuerbehörde angestossen wird, erfolgt zunächst eine Faktenklärung; die Tatbestandsvoraussetzungen werden dann entsprechend den Steuergesetzen als formalisiertem rechtlichen Regelwerk beurteilt.

Dieses Regelwerk ist – wie das GO-Spiel vorhin – ebenfalls formal und syntaktisch definiert: Sind die Tatbestandsvoraussetzungen geklärt, kann das Ergebnis algorithmisch und ohne weitere inhaltliche oder situationsbezogene Deutung abgeleitet werden. Sieht man von der notwendigen rechtlichen Vorklärung einmal ab, so eignet sich das Steuerrecht gut zur Formalisierung und Digitalisierung.⁵⁷

In praktisch allen anderen Rechtsgebieten müssen nach Abklärung des Sachverhalts hingegen Rechtsnormen auf Basis von Rechtsprinzipien und Rechtswerten inhaltlich angewendet und intentional argumentativ verarbeitet werden. Das ist von einer KI aber nicht leistbar, weil die pragmatische und semantische Zeichendimension nicht digital abgebildet werden kann.

Davon abgesehen beginnt auch die Lösung von Steuerrechtsfällen immer mit der Klärung der Fakten als Tatbestandsvoraussetzungen.

Da jede Künstliche Intelligenz als digitales System realitätsagnostisch ist, müsste Alarie zuerst erklären, wie diese eben mit den notwendigen «Fakten beschickt» werden soll. Auch Alarie wird dann, ähnlich wie Adrian,⁵⁸ nicht auf die Mitwirkung von Menschen zur Aufbereitung von Rechtsinformation verzichten können.

Damit ist aber die Idee des rechtlichen Singularismus als Vision einer eigenautonomen digitalen Automatisierung als Trugbild enttarnt: Es wäre eben doch die intellektuell-juristische und von Menschen geleistete und intentional geprägte Geistesleistung entscheidend, um den digitalen Singularismus durchzusetzen. Damit ist die angestrebte eigenautonome Singularität des Rechts als Lösung, bei der eben doch Menschen die eigentlichen Entscheidungsvoraussetzungen schaffen, nicht zu erreichen.

Dublin hat das verkürzende und irreführende Argumentationsmuster sorgfältig herausgearbeitet, das neben Alarie auch Adrian zur Propagierung von Künstlicher Intelligenz im Recht anwenden.⁵⁹ Er erläutert es am Beispiel eines Artikels von Alan Turing über die Frage, ob Computer denken können:⁶⁰

1. Simplifizierung des Problems: Zunächst wird vom eigentlichen Problem durch eine starke Vereinfachung abstrahiert. Es wird auf ein anderes, einfacher zu lösendes Problem heruntergebrochen. Nach Turing kann die Frage, ob Computer denken können, damit beantwortet werden, ob sie denken simulieren können, was zwar eine ganz andere Frage ist, aber einfacher umgesetzt werden kann.
2. Verweis auf die Zukunft: Dann wird auf Fortschritte verwiesen, die es bei der Lösung dieser einfacheren Probleme gibt und darauf, dass diese sich noch weiter entwickeln werden. Dabei wird auch gerne statistisch argumentiert: Wenn eine KI schon jetzt in x Prozent aller Fälle Denken gut simuliert oder richtig liegt mit der Vorhersage von rechtlichen Entscheidungen, wie wird das dann erst in y Jahren ausschauen? Dabei wird aber nur die geschrumpfte Frage behandelt und kann das Fortschreiben in die Zukunft natürlich beliebig verlängert werden, falls sich selbst diese einfachen Erfolge nicht so wie gewünscht einstellen.
3. Herabwürdigung von kritischen Einwänden: Dieser Schritt ist optional, kommt aber bei Alarie und anderen «Futurologen» regelmässig vor – es werden etwaige Kritiker an dieser Argumentation anlasslos als Neinsager und Technologiefeinde denunziert.

Nicht nur Alarie wendet dieses Argumentationsmuster der «vereinfachten Zukunftsreferenz» an, es tritt in ähnlicher Form auch bei Adrian⁶¹ oder als prophetisches Motto bei Rechtsinformatik-Konferenzen auf.⁶²

Die eigentlich notwendige Diskussion über die Frage, wozu und wie KI für das Recht in Übereinstimmung mit den Werten und Prinzipien des Rechts und der Demokratie für diese nutzbar gemacht werden kann, bleibt dabei aussen vor.

Alarie geht auf die eigentliche Fragestellung, wie das ganze Rechtssystem mit seiner inhaltlichen Entscheidungsfindungs- und Rechtssetzungskompetenz digitalisiert und automatisiert werden könnte, nicht weiter ein. Stattdessen verweist er auf GO und auf Berechnungsoptionen im Steuerrecht als «Lösungsbeispiele».

Er reduziert damit eine komplexe Fragestellung («Sind Rechtssetzung und Rechtsgestaltung durch eine digitale Maschine leistbar – und wenn ja: Unter welchen Voraussetzungen und Bedingungen?») auf banale («Wie müssen Daten aufbereitet werden, damit Steuerberechnungen automatisiert werden können?») und verweist danach, in einem zweiten Schritt, auf die Zukunft, die dann die eigentliche Lösungskompetenz bringen soll.

Nach dem schon erwähnten Law of Requisite Variety von Ashby muss die Varietät eines steuernden Systems mindestens ebenso hoch sein wie die Varietät des auftretenden Steuerungsproblems, damit eine Steuerung möglich ist. Nun lassen sich weder mit einem GO-Spiel noch mit einem Steuerberechnungsprogramm Rechtsfälle sinnvoll lösen.

Mit dem zweiten Schritt als Verweis in die Zukunft entzieht er seine Behauptung zudem einer möglichen Nachprüfung und Falsifizierbarkeit, da sich heute nicht feststellen lässt, was morgen möglich sein könnte.

Er verunmöglicht damit nicht nur jede Kritik, er beschuldigt auch noch alle, die möglicherweise eine solche äussern könnten, als Neinsager und Pessimisten.

Alarie entlarvt seine eigene Vorgehensweise, wenn er schreibt:⁶³

«In this contribution, I argue that the naysayers will continue to be correct until they are, inevitably, demonstrated empirically to be incorrect.»

An dieser Stelle offenbart Alarie, dass die «Neinsager» derzeit eigentlich recht haben, er also mit seinen Ausführungen falsch liegt und rein spekulative Thesen verkündet, aber eben nur «derzeit» und nur solange, bis eines Tages bewiesen sein wird, dass er doch recht gehabt hätte.

Im Ergebnis entzieht sich Alarie so jeder wissenschaftlich-rationalen Diskussion, die immer nur in einer gemeinsamen Gegenwart stattfinden kann.

Wie kommt Alarie nun von zwei einfachen Anwendungsbeispielen der KI zu seiner These, dass das ganze Rechtssystem bald von der KI abgelöst werden könne, inklusive der Rechtserzeugung?

Die Vision, die Alarie antreibt, ist die «nearly costless» digitale Kommunikation und des damit einhergehenden Überflusses an Daten:

«The implications for law of an abundance of data of all kinds and dramatically more effective statistical tools are becoming visible.» ⁶⁴

Alarie beschreibt die von ihm erwarteten Konsequenzen der «rechtlichen Singularität» so:

«the accumulation of massively more data and dramatically improved methods of inference make legal uncertainty obsolete» ⁶⁵

Alarie ist sich seiner Sache und der positiven Auswirkungen sicher, denn mit dieser juristischen Singularität werde jede Rechtsunsicherheit beseitigt. Es entstehe eine nahtlose Rechtsordnung, die alle Rechtsbereiche betreffe und jederzeit in Echtzeit verfügbar sei:

The legal singularity contemplates the elimination of legal uncertainty and the emergence of a seamless legal order, universally accessible in real-time. ⁶⁶

Das hört sich verheissungsvoll an: Diese Aussagen erinnern aber auch an die Alchemie des Mittelalters, in dem der Stein der Weisen⁶⁷ gesucht wurde, um ein Opus Magnum zu erzielen und jeden minderwertigen Ausgangsstoff in Gold zu verwandeln zu können.

Es würden im von Alarie beschriebenen Fall psychische Systeme und dadurch getragene soziale Systeme durch digitalisierte, technisch-formale Systeme abgelöst.

Ist das überhaupt möglich? Falls ja: Mit welchen Konsequenzen und Einschränkungen?

Seine Argumentation fusst darauf, dass

1. mit der Erfassung weiterer «Daten» und
2. dem Vorliegen von «Inferenzregeln»

die digitale rechtliche Singularität als umfassende digitale Rechtsfindungs- und Rechtssetzungsmaschinerie umgesetzt werden könne.

Alarie führt die «massive Datenakkumulation» als eine der beiden Erfolgsvoraussetzungen für die rechtliche Singularität ein:⁶⁸

«a significantly greater quantification of observable phenomena in the world (‹more data›)» ⁶⁹

Er lässt dabei offen, wer wie welche Phänomene beobachten wird und wie daraus Daten entstehen sollen. Er möchte so ein formal-technisches System einrichten, das ein soziales, auf natürlich- bzw. fachsprachlicher Kommunikation basierendes System ablösen soll.

Daraus ergibt sich logisch, dass wir digital einlesbare Daten (1) benötigen, die als Rechtsnormen (Gesetze, Verwaltungsakte, Urteile) selektiert und aufbereitet werden. Und wir müssen weiters klären, wie (2) Fakten (Rechtsfälle) von der Umwelt ausserhalb des Rechtssystems als Daten in das System gelangen sollen.

Vorweg taucht aber die Frage auf, inwiefern die von Alarie eingeforderte Zunahme der Datenmenge überhaupt hilfreich sein kann.

Wer jemals in einem juristischen Examen geschwitzt hat bzw. wer «legal reasoning» professionell betreibt, wird mir zustimmen, dass das Herausfinden der zentralen Themen eines Rechtsfalles bzw. der zentralen Argumentation durch das Abstrahieren und Weglassen von unnötigen Details erfolgt.

Legal Reasoning kann so gesehen als intelligentes, fachkundiges Filtern verstanden werden, das Daten eliminiert und nach bestimmten Regeln zu relevanter Information kondensiert.

Zwar müssen zur Vorbereitung der eigentlichen Falllösung regelmässig wichtige Informationen, hinsichtlich des Sachverhalts oder anzuwendender spezieller Rechtsnormen (z.B. mit Auslandsbezug) ergänzt bzw. herbeigeschafft werden.⁷⁰

Mit einer Vergrösserung der Datenmenge alleine lässt sich aber kein Rechtsfall lösen.

Es ist im Gegenteil zu befürchten, dass Datenüberschuss die «rechtliche Entropie» erhöht und neben einem erhöhten «Rechenaufwand» zu fragwürdigen und erratischen Ergebnissen führen wird.⁷¹

Als Daten erfasste Rechtsnormen stellen lediglich binäre Speicherplätze in einem Speichersystem dar.

Diese Speicherstellen und der repräsentierte Text sind für sich genommen bedeutungslose syntaktische Zeichenfolgen – die materialisierte formale Hülle von Bedeutung – der kein Erkenntniswert zukommt.

Zeichen erhalten erst dadurch Bedeutung, indem sie in einem bestimmten Zusammenhang auf das «eigentlich gemeinte» verweisen und so quasi von ihrer Innenseite her mit Bezug auf das Verwiesene verwendet werden.

Rechtsbegriffe wie «Vertrag», «Schuld» oder «Zurechnung» entfalten erst durch die intentionale Verwendung in einem konkreten Kontext die Bedeutung, die ihnen von Juristinnen und Juristen und den davon betroffenen Menschen zugeschrieben wird.

Im Unterschied zu Information sind Daten kontextfrei und enthalten keine Antworten auf konkrete Fragestellungen.⁷² In einer digitalen Maschine ist aber niemand, der intentional verstehen könnte, auf was die Daten bzw. die in den Daten abgelegten Texte verweisen, es fehlt jede Bedeutung.

Es taucht hier das gleiche Problem auf wie bei der formalen rechtlichen Wissensrepräsentation, bei digitalen Ontologien. Dort wurde versucht «Bedeutung» (Semantik) syntaktisch durch Verweise auf andere digitale Begriffe (als digital gespeicherter Textfragmente) quasi durch die Hintertür zu erschliessen.

Das entfaltet die gleiche Wirkung wie der Versuch des Barons von Münchhausen, sich am eigenen Haarschopf aus dem Sumpf zu ziehen: Es funktioniert einfach nicht.⁷³ Erst wenn ein/e Beobachter/in da ist, entsteht Sinn und Bedeutung. Entsprechend wird doch die «intellektuelle» (also menschliche) «kontext-bezogene» Erschliessung für erforderlich gehalten.⁷⁴

Freilich ist auch Alarie nicht der einzige, der der panpsychischen Idee anhaftet, dass die blosse digitale Speicherung von bedeutungsvollen Texten als Daten die darin (nur für Menschen zugängliche) Bedeutung mitspeichert und verarbeitbar macht, auch wenn er es nicht so lyrisch ausdrückt wie andere.⁷⁵

Die reine automatisierte formale algorithmische Bearbeitung von Speicherstellen kann deshalb aus sich heraus weder Inferenzregeln noch einen Sinn generieren, selbst wenn die bearbeiteten Speicherstellen für Menschen sinnvolle Texte beinhalten.

Der klassischen Frage der methodischen Rechtsanwendung, also der Frage, wie Rechtsnormen interpretiert werden müssen, um korrekt auf Sachverhalte angewendet zu werden, und wie umgekehrt Sachverhaltsfragen konkretisiert werden können, um die richtigen Rechtsentscheidungen treffen zu können, weicht Alarie nicht einmal aus – er ignoriert sie schlichtweg.⁷⁶

Selbst Alarie merkt an, dass es nach Erreichung der Singularität gelegentlich Diskussionen über Fakten geben könne.⁷⁷

Da das Recht Probleme der physischen und sozialen Realität ordnen soll und diese Fakten regelmässig von Menschen nach rechtlichen Kriterien aufbereitet werden müssen, stellt das allerdings kein marginales sondern ein Grundproblem seines Ansatzes dar.

Digitale Systeme sind nämlich grundsätzlich realitätsblind bzw. realitätsagnostisch.

Bei Blockchains wird das als «Orakel-Problem» bezeichnet: Eine technische Komponente soll als «Orakel» die Sachlage klären. Auch die Verheissungen der Blockchain, die eine ideale Lösung für fast gar nichts darstellt, bauen deshalb auf diesem sandigen Untergrund, wie Fakten als Daten korrekt eingelesen werden können.⁷⁸

Das «Orakel-Problem» betrifft auch KI-Anwendungen. Damit ist gemeint, dass so exakt und treffsicher sie auch arbeiten mögen, sie selber nur über ein «Orakel» Zugriff auf Fakten aus der Umweltrealität sozialer und psychischer Systeme erhalten.

Das wird in der Regel ein rechtskundiger Mensch sein, der ein Fakt der Systemumwelt als rechtliches Fakt maschinennutzbar übersetzt. Nach Adrian sollen z. B. menschliche Zuarbeiter Urteile und Rechtsnormen maschinengerecht aufbereiten.

Wenn wir jede menschliche Mitwirkung als subjektiv verstehen, so wird auch jedes technische System, das von Menschen erfasste und vorbereitete Daten nutzt, subjektiv sein und scheitert so das Trugbild einer objektiven (im Sinne von «menschenfreier») Rechtsgewinnung.

Selbst wenn es möglich wäre, alle relevanten Daten fortlaufend aktualisiert und maschinengerecht im System zu hinterlegen, dann müssten diese in einer bestimmten digitalen Datenstruktur bzw. einer Wissensrepräsentation erfasst werden.

Rechtliche Wissensrepräsentation beschreibt, wie rechtsrelevante Daten formalisiert und in ein formal-ontologisches digitales Modell eingefügt werden können.

Da jede Wissensrepräsentation eine formale Reduktion bewirkt, müssen die dadurch bewirkten Grenzen und resultierenden Eigengesetzlichkeiten hinsichtlich Ersterfassung und Aktualisierung berücksichtigt werden.⁷⁹

Dazu zählt, dass Formalisierung immer eine Verkürzung des realen, zugrundeliegenden Sachverhalts bewirkt. Der modellierte Bereich ist immer und zwangsläufig eine Untermenge des sozialen Systems Recht, ein Ausschnitt der Realität.

Die Abbildungsfunktion, also die Übertragung der Elemente der zugrundeliegenden Realität in das Modell liegt logisch ausserhalb des eigentlichen KI-Modells: Das digitale System, das angefertigt werden soll, müsste dem sozialen System Recht nachmodelliert werden. Genau das muss aber von ausserhalb des Modells erfolgen.

Wir stehen hier also wieder vor dem gleichen Problem wie oben: Diese Zuordnung, die Umwandlung von Inhalt in Form,⁸⁰ muss durch Menschen als psychische Systeme erfolgen, eine autonome Singularität des Rechts ist damit unmöglich.

Zur «Veranschaulichung» hat Alarie das Steuerrecht ausgewählt. Dieser Ansatz sei auf jedes Rechtsgebiet übertragbar. Das Steuerrecht ist leichter formalisierbar als andere Rechtsbereiche, da es mit einfach formalisierbaren Begriffen und letztendlich mit Zahlen hantiert. Den Nachweis dafür, dass eine einheitliche Wissensmodellierung über alle Rechtsgebiete einheitlich möglich ist, bleibt er schuldig.⁸¹

Neben der Datenakkumulation sollen nach Alarie Inferenzen die Singularität des Rechts ermöglichen. Damit meint er die Verknüpfung der (statischen) Daten, als Schlussfolgerung, durch die algorithmisch eine rechtliche Entscheidung getroffen oder Recht sogar neu gesetzt werden soll.

Alarie erklärt nicht, woher diese Inferenzen kommen und wie sie gewonnen werden. Gehen wir einmal – die Idee der Singularität wohlwollend unterstützend – davon aus, dass die Inferenzen algorithmisch aus den Daten abgeleitet werden können.

In diesem Fall würden sich die resultierenden Bezüge (Inferenzen) auf statistische Koinzidenzen in den Daten beziehen, die mit der Realität⁸² übereinstimmen können – oder auch nicht.

Eine rechtlich ursächliche Kausalität lässt sich aus Bezügen in den Daten aber nicht ableiten, weil Kausalität aus der Realität mit Erfahrungswissen abgeleitet werden muss, die in repräsentativen Beschreibungen über die Realität fehlt.⁸³

So wenig wie in einem Foto die akustischen Verhältnisse des abgebildeten Sujets während der Aufnahme hinterlegt und ausleitbar sind, so wenig ist in einem Rechtstext der intentionale Gedankengang und seine Bedeutung im Kontext sowie seine Funktion und Wirkung als kausaler Agent des Rechtssystems hinterlegt und algorithmisch verwertbar.

Ohne eine rechtlich sinnvolle kausale Interferenz würde das KI-System aber lediglich wahrscheinliche Aussagen treffen, die zufällig stimmen können, genauso gut aber vollkommen falsch sein können,⁸⁴ denen aber die intersubjektive Nachvollziehbarkeit fehlt, die rechtliche Entscheidungen konstituiert.

Nehmen wir dennoch an, wir könnten trotz der geschilderten Einwände alle Daten in einem formalen Modell erfassen – mit den passenden Interferenzregeln.

Erreichen wir damit die herbeigesehnte «elimination of legal uncertainty»?

Nein, denn nach Gödel können wir in einem formalen System nicht nachweisen, dass es widerspruchsfrei ist.⁸⁵ Selbst wenn wir eine formalisierte digitale Rechtsbasis und Interferenzregeln errichtet hätten, bedeutet dies noch nicht, dass sie widerspruchsfrei ist. Wir hätten immer noch einen «Besen im System».⁸⁶

Das Halteproblem in der theoretischen Informatik besagt, dass sich bei einem komplexeren digitalen Algorithmus nicht vorhersagen lässt, ob er bei der Verarbeitung von Daten unvermutet stehen bleibt.⁸⁷

Es setzt der digitalen Verarbeitbarkeit von Daten theoretische Grenzen, die in der Praxis freilich häufiger durch beschränkte Ressourcen,⁸⁸ die hohe Komplexität von IT-Infrastrukturen, Schwächen im Betrieb oder durch bösartige Angriffe zu Tage treten.

Der Ausfall von IT-Systemen im lokalen und globalen Kontext ist heute fixer Bestandteil unserer Alltagswahrnehmung. Es wird wegen dieser theoretischen und praktischen Beschränkungen immer schwieriger, digitale Systemlösungen zu entwickeln, die jederzeit verfügbar sind und immer fehlerfrei funktionieren.

Für ein digitalisiertes Recht bedeutet dies, dass das «singularisierte Recht» trotz optimaler Betriebsprozesse keineswegs immer verfügbar sein würde, sondern jederzeit für eine unbestimmte Zeit ausfallen kann.

«I know I‘ve made some very poor decisions recently, but I can give you my complete assurance that my work will be back to normal.» ⁸⁹

So der Bordcomputer HAL im Science-Fiction «2001: A Space Odysseey», der seine Besatzung tötet, da diese ihn wegen seiner Fehlerhaftigkeit abschalten möchte.⁹⁰

Entgegen dieser Ansage führen die drei genannten theoretischen Beschränkungen, (1) fehlende Kausalität, (2) Widersprüchlichkeit und (3) unvorhersehbare Beendigung zusammen mit den schon bekannten praktischen Beschränkungen wie (4) Maschinenintuition, (5) Maschinenhalluzination und (6) KI-Systembias zu unvermeidbar erratischen Ausgaben eines KI-Systems.

Trotz vorbeugender und nachgeschalteter Fehlerbereinigungsmassnahmen können grob fehlerhafte Ausgaben eines KI-Systems nie grundsätzlich ausgeschlossen werden.

Im Rahmen dieses Beitrags habe ich Eigenschaften digitaler KI-Anwendungen beschrieben, die daraus resultieren, dass sie anders als psychische und soziale Systeme funktionieren: Sie sind realitäts- und situationsagnostisch, semantikfrei und als statistische Maschinen korrelations- statt kausalgetrieben.

Um diese Eigenschaften von KI-Systemen einheitlich fassen und weiter untersuchen zu können, führe ich den Begriff der «Abjektivität» als eigenen ontologischen Referenzrahmen vor, um solche daten- und algorithmisch getriebenen text-, aussage- und entscheidungsgenerierender KI-Systeme zu kennzeichnen.⁹¹

Abjektivität bezeichnet Ausgaben formal-technischer Systeme, so wie Subjektivität die Aussagen psychischer und Objektivität die Aussagen sozialer Systeme bezeichnet.

Abjektive Aussagen sind erratisch und nicht objektiv, weil ihre algorithmische Textgenerierung keine Begründung vorsieht und ohne Argumentation keine auf Intersubjektivität bauende Objektivierung möglich ist.

Falls abjektive Aussagen rechtlichen Ansprüchen wie Gesetzesbezogenheit, Sachverstandsadäquatheit, Stringenz, Rechtsprechungskontinuität, etc. genügen sollen, müssen sie erst durch den Prozess des subjektiven intentionalen Nachvollzugs, der intersubjektiven Erörterung und schliesslich des Objektivierungsprozesses, kurz durch den ganz normalen, menschlich getriebenen Prozess der in Demokratien üblichen Rechtsfindung, Rechtsentscheidung bzw. Rechtssetzung hindurchlaufen.

Sie haben sonst wegen des unvermeidbaren Datenbias und wegen des unvermeidbaren systemisch-algorithmischem Bias den Verdacht der Inkorrektheit und das Problem mangelnder bzw. fehlender Argumentation grundsätzlich gegen sich gerichtet und müssen immer – und gerade wenn sie sich plausibel «anfühlen» – wegen ihrer potenziellen Toxizität so sorgfältig behandelt und geprüft werden, als würden sie von einer Menge tippender Affen oder von Wahrscheinlichkeitspapageien stammen.⁹²

Eine Singularität des Rechts, wie sie Alarie anstrebt, ist auf Basis seiner Äusserungen nicht möglich – und erst recht nicht wünschenswert.

Um Kosten einzusparen und um durch Automatisierung effektiver entscheiden zu können, möchte er ein System einführen, das so komplex ist, dass es von Menschen nicht mehr verstanden werden kann.⁹³ Menschen als psychische und die Gesellschaft als soziales System würden vollständig einer algokratischen technisch-formalen Verhaltensinstanz unterworfen, da nur mehr die Maschinen selbst die von ihnen selbst verwaltete Eigenkomplexität bewältigen könnten.

«Recht», das von Menschen nicht mehr verstanden und nachvollzogen werden kann, willkürlicher, da unbegründeter Zwang gegenüber Menschen – das hat mit grundlegenden Rechtsprinzipien nichts zu tun. Es ist vielmehr Ausdruck einer Dystopie des Rechts.

Es ist tragisch, wie weit seine Ausführungen und jene von Adrian,⁹⁴ dass Semantik (Bedeutung) eine Illusion sei, sich als abstrakte spekulative Aussagen von jeder realen rechtlichen Lebensumwelt entfernt haben:⁹⁵ So wäre es vermessen, einer von einer rechtlichen Entscheidung betroffenen Person zu sagen, dass die angeordnete Geldstrafe oder gar eine lebenslange Haftstrafe für sie eigentlich gar keine Bedeutung hätte, weil Bedeutung nicht existiere.

Menschen haben im Unterschied zu modernsten KI-Systemen keine Probleme damit, Sinn zu erkennen: Wir wissen im Alltag und im beruflichen Kontext genau, ob wir etwas ganz, teilweise oder gar nicht verstanden haben und was das für uns und andere bedeutet.

Die Idee der rechtlichen Singularität ist ein Beispiel dafür, wie zunehmend menschlich geprägter Sinn und Bedeutung aus dem Recht verbannt werden sollen. Solche Konzepte haben mit rationalen, objektiven Entscheidungen nichts zu tun: Sie binden als in die Zukunft verweisende Memes lediglich Denkressourcen, die besser im Jetzt zur Lösung konkreter Probleme eingesetzt werden sollten.

Sie von der Rechtsgemeinschaft unwidersprochen zu lassen, erinnert an die Banalität des Bösen, die Arendt im Rahmen des Eichmann Prozesses diagnostizierte⁹⁶ und auf deren Präsenz im akademischen Kontext Harvey⁹⁷ hinweist.⁹⁸

Dem muss eine werteorientierte inhaltliche Rechtsauffassung entgegengehalten werden, die vom Menschen als Massstab ausgeht und unabhängig von ökonomischen Zwängen oder intellektuellen Trends zu diesem wieder hinfindet.

Der Mensch ist auch im digitalen Zeitalter das Mass aller Dinge und sollte es bleiben.⁹⁹

Entsprechend muss KI gerade im Umfeld des Rechts so reguliert werden, wie es einer demokratischen Rechtsordnung zusteht, nämlich unter Nutzung technischer Standardisierung und mit voller Transparenz hinsichtlich der zugrunde gelegten Daten und Algorithmen.

Dazu gibt es bereits konkrete Grundlagen, wie z.B .das «Standard Model Process for Addressing Ethical Concerns during System Design» (IEEE 7000-2021),¹⁰⁰ die zeigen, wie ethische Standards digitaler Systeme werteorientiert und effizient umgesetzt werden, ohne auf die Zukunft zu verweisen und den Menschen wegblenden zu müssen.