Jusletter IT

Das Thema der IRIS 2020 lautet «Verantwortungsbewusste Digitalisierung». Der vorliegende Beitrag konzentriert sich auf die sog. «künstliche Intelligenz» (Deutsch: KI)¹/ «Artificial Intelligence» (Englisch: AI). Aus recht(swissenschaft)licher Sicht gilt: Weder für die Definition dieser KI/AI noch für ihre Funktionalitäten in der Mitwelt mit Menschen, Tieren und Pflanzen hat das (Verfassungs)Recht grammatisch Vorsorge getroffen. Konsequent adressiert dieser Beitrag Kernherausforderungen wie -agenden und verzichtet angesichts der Gigantonomie der Herausforderungen auf den Anspruch der umfassenden Auswertung von Literatur²- und Rechtsquellen. Bereits zu Beginn dieses Beitrags darauf hinzuweisen ist, dass AI(Law) in Zukunft aus der Trias «RER» (Englisch: LER – Lawful-Ethical-Robust) bestehen könnte. Vereinfacht: «Recht» – traditionell der Rechtswissenschaft zugeordnet; «Ethik» traditionell der Philosophie zugeordnet und «Robustheit» traditionell den Technikwissenschaften zugeordnet. Diese Trias erklärt die obige Klammer um «Recht» wie «Law» («KI(Recht)» & «AI(Law)»). Konsequent wird die Frage nach der (Be)Deutungshoheit dieser drei Kompetenzen (Recht – Ethik – Technologie) gestellt. Bereits zu Beginn dieses Beitrags ist vor einer AI-Governance zu warnen, die glaubt – angesichts fehlender normativer, insbesondere primärrechtlicher Rechtsinnnovationen auf EU- wie BRD-Ebene – «Ethik», «Robustheit» und «Vertrauen» zu ihren Grundlagen machen zu müssen. Anlass für diese Beobachtung wie Warnung ist die Verwendung des Adjektivs «vertrauenswürdig»³ im Kontext einer bis dato wenig detaillierten Definition der künstlichen Intelligenz und des Fehlens von primärrechtlichen Normierungen für ein «Dateneigentum» von natürlichen und juristischen Personen als «Rohstoff» für den Wertschöpfungsprozess KI. Hervorzuheben ist: sowohl «Vertrauen» in KI wie «verantwortungsbewusst» in Digitalisierung (Tagungstitel) adressieren die menschliche Psyche – und nicht zunächst die «Rationalität» wie Funktionalität menschlichen Verstandes.

Grundlage dieses Beitrags sind 7 ausgewählte Dokumente⁴, und zwar drei Mitteilungen der Europäischen Kommission zu «AI for Europe» und eine Mitteilung zum Aufbau einer europäischen Datenwirtschaft. Die anderen drei Dokumente stammen von einer 52-köpfigen, internationalen, «Unabhängigen Hochrangigen Expertengruppe» (= Independent High-Level Expert Group on Artificial Intelligence – AI-HLEG), die «Ethikrichtlinien», ein «Definitionsdokument» und «Politik- und Investitionsempfehlungen» entworfen und verabschiedet hat. Grundsätzlich handelt es sich auch⁵ bei den Kommissions-Mitteilungen nicht um bindendes Recht⁶ – ohne, dass in diesem Beitrag weitere Ausführungen zur Rechtmäßigkeit dieser Quellen gemacht werden sollen. So ist nämlich nicht zu übersehen, dass eine grundsätzliche Umgestaltung unserer Welt eben nicht durch «soft law»⁷ rechtssicher erfolgen könnte. Die folgende Graphik beruht auf einer Textanalyse dieser EU-(Rechts-)Quellen:

Abbildung 1: «Schmid: AI-Framework of AI-HLEG»

Im Überblick sichtbar wird: Die LER-Formula (Englisch: Lawful-Ethical-Robust; Deutsch: Recht-Ethik-Robustheit und RER-Formel) als Grundlage (Foundations) wird ergänzt durch ein Konzept der Um- und Durchsetzung wie Kontrolle (Realisation & Assessment) – hier als FRA-Formula⁸ (Foundations-Realisation-Assessment) präsentiert. Diese PPT-Folie stammt aus dem englischsprachigen Beitrag der Autorin zu einer ersten hessischen AI-Vorlesung. Deutlich wird, dass die LER-Formula sowohl durch technische, als auch durch nicht technische Maßnahmen implementiert wird (Realisation).

Mit der FRA-Formula wird die Trias Foundations, Realisation und Assessment umschrieben. Eine hervorragende Funktionalität von Recht ist sein Durchsetzungspotential angesichts mehrerer Parteien mit unterschiedlichen Rechts- und Gerechtigkeitsvorstellungen. Vor der «KI-Welt» ersparten uns der Rechtsstaat (BRD: Art. 19 Abs. 4; 20 und 28 Abs. 1 S. 1 GG) wie die «Rechtsunion» Vertrauensemotionalitäten – gab es doch den Rechtsweg. Auch begnügten wir uns nicht mit «Verantwortungsbewusstsein», sondern verlangten mit Zurechnungs-, Haftungs-, Vollstreckungs- und Mindestkapitalausstattungsregeln rechtlich verantwortetes Unternehmertum. Die Veränderung der «KI-Welt» derzeit ist eindeutig: wenn wir solchen Unternehmen und staatlichen Institutionen nicht trauen mussten und dies als Errungenschaft eines demokratischen und sozialen Rechtsstaats erlebten – dann sollen wir jetzt gegenüber KI Vertrauen entwickeln (gerade wenn die Risiken von «technischem Determinismus» evident sind). Wegweisend erscheint insofern der pilotierende und iterierende Prozess, den die Expertengruppe (AI-HLEG) verlangt: nämlich die Erstellung einer Bewertungsliste für KI («Assessment-List»)⁹. Damit wird aber auch eine singuläre Chance der «KI-Welt» deutlich: der Rechtsgehorsam durch Programmierung («Law is Code»¹⁰ (by default?)).

Mit LER (Lawful-Ethical-Robust) wird die Multidisziplinarität der Gestaltungsherausforderung deutlich, die nach den hier ausgewählten 7 Dokumenten auf EU-Ebene eben nicht «nur» die Rechtskonformität verlangen. Über die «Lawfulness» hinaus wird die «ethische Vertretbarkeit» (Ethical) wie die (technische) «Robustheit» (Robustness) gefordert. Ein solches «(Legal) Design» erinnert die Autorin hinsichtlich der ersten beiden Elemente an ihre älteren Forschungen¹¹ zum Unlauteren Wettbewerbsrecht in der BRD, dessen § 1 von 1909 – 2004 lautete: «Wer im geschäftlichen Verkehre zu Zwecken des Wettbewerbes Handlungen vornimmt, die gegen die guten Sitten verstoßen, kann auf Unterlassung und Schadensersatz in Anspruch genommen werden.».¹² In einer digitalisierten Welt wird diese bekannte Dichotomie von Recht und Ethik (damals «gute Sitten») um eine technologische Grundanforderung ergänzt, die als «Robustheit» bezeichnet wird. Nach hier vertretener Meinung handelt es sich bei «Robustheit» um die Etablierung eines Äquivalents zum Rechtsstaatsprinzip (BRD: Art. 19 Abs. 4; 20 und 28 Abs. 1 S. 1 GG) im Cyberlaw – dem Prinzip der (IT-) Sicherheit.¹³

Wie § 1 UWG a.F. – und die bekannt «uferlose» Literatur – zeigen, ist ein Vorzug der KI-Welt, dass neue Terminologieanstrengungen erfolgen. Die AI-Expertengruppe (AI-HLEG) formuliert: «Ethics is an academic discipline which is a subfield of philosophy. In general terms, it deals with questions like «What is a good action?», «What is the value of a human life?», «What is justice?», or «What is the good life?». In academic ethics, there are four major fields of research: (i) Meta-ethics, mostly concerning the meaning and reference of normative sentence, and the question how their truth values can be determined (if they have any); (ii) normative ethics, the practical means of determining a moral course of action by examining the standards for right and wrong action and assigning a value to specific actions; (iii) descriptive ethics, which aims at an empirical investigation of people’s moral behaviour and beliefs; and (iv) applied ethics, concerning what we are obligated (or permitted) to do in a specific (often historically new) situation or a particular domain of (often historically unprecedented) possibilities for action. Applied ethics deals with real-life situations, where decisions have to be made under time-pressure, and often limited rationality. AI Ethics is generally viewed as an example of applied ethics and focuses on the normative issues raised by the design, development, implementation and use of AI. Within ethical discussions, the terms «moral» and «ethical» are often used. The term «moral» refers to the concrete, factual patterns of behaviour, the customs, and conventions that can be found in specific cultures, groups, or individuals at a certain time. The term «ethical» refers to an evaluative assessment of such concrete actions and behaviours from a systematic, academic perspective.»¹⁴

Man mag sich diesen Ethik-, Moral- und Sittendefinitionen und –relationen anschließen oder verschließen. Jedenfalls gibt es in Zukunft auch im Kontext von Corporate Ethics, Business Ethics, Company Ethics und im Kontext von (Corporate) Social Responsibility Indexes¹⁵ eine «erste Handreichung». Vom «soft law» der Kommission und der ihr eingesetzten Expertengruppe abgesehen ergibt eine AI-Recherche im «traditional law» – Fokus «Rechtsdurchsetzung» (also 3. Gewalt) – folgendes Ergebnis:

Eine englische Stichwortrecherche («artificial intelligence») bei Curia¹⁶ hat ergeben, dass 19 Rechtssachen (dort entweder «artificial» oder «intelligence» oder beides) genannt werden. Keine einzige Entscheidung des EuGH und des EuG scheint AI grammatisch zur Kenntnis zu nehmen.

In 4 Schlussanträgen von Generalanwälten wird AI – hiervon 2-mal in der Fußnote – genannt. Bereits 1987 werden Computer im Rahmen von Zolltarifstreitigkeiten erwähnt, die für wissenschaftliche Arbeiten an AI geeignet sind.¹⁷ 2009 wird von Generalanwältin Sharpston bedacht, ob der Verordnungsgeber AI-Potential bei einer Regelung vor Augen hatte.¹⁸ 2017 bestätigt Generalanwalt Wathelet den Transformationscharakter von AI.¹⁹ Ein vierter Schlussantrag wird folgend getrennt präsentiert, weil er von grundsätzlicher Bedeutung ist:

2017 integriert Generalanwalt Szpunar (in einer Fußnote) in einem «Uber-Fall» Algorithmen in das Wettbewerbsrecht mit Literaturhinweisen auf AI: «For example, the use by competitors of the same algorithm to calculate the price is not in itself unlawful, but might give rise to hub-and-spoke conspiracy concerns when the power of the platform increases.»²⁰. In der gleichen Fußnote verweist der Generalanwalt auf die Rechtssache Eturas and Others (21. Januar 2016)²¹ – eine Wettbewerbs- und Kartellrechtsstreitigkeit, die ein von mehreren Mitbewerbern genutztes Reisebuchungsportal zum Gegenstand hat. Der EuGH etabliert im Kontext dieser technologischen Vernetzung (der Angebote) konkurrierender Mitbewerber ein Autonomieerfordernis: ‹As a preliminary point, it is necessary to recall the Court’s case-law that each economic operator must determine independently the policy which it intends to adopt on the common market. Such a requirement of autonomy [...].›²² Hervorzuheben ist: Wenn es im Kartell- und Wettbewerbsrecht ein Rechtsprinzip der Unabhängigkeit gibt, dann muss es in einem «Digital Single Market» auch voneinander unabhängige (künstliche) Intelligenzen geben. Andernfalls droht die Existenz einer «vertrauenswürdigen KI» die traditionellen («traditional law») Wettbewerbsprinzipien des Binnenmarkts (Art. 26 Abs. 2 AEUV) zu konterkarieren. Zusammengefasst: freier Wettbewerb einerseits und vertrauenswürdige KIs andererseits sind die Absage an Alleinstellungsbehauptungen, dass es nur eine vertrauenswürdige KI geben kann. Sie bereiten vor auf die Erkenntnis, dass im EU-Rahmen erstrebenswerte – und vermutlich fördermittelfähige – KI’en eben «trustworthy» sein sollen.

Auf deutscher Ebene hervorzuheben ist das – aus Cyberlawperspektive – jahrzehntelang erwartete Gutachten²³ der Datenethikkommission vom 23. Oktober 2019, das in der 19. Legislaturperiode eine Koalitionsvereinbarung von CDU/CSU und SPD erfüllt. Die Trias Recht, Ethik und Technologie ist genauso prägend wie die europäisierende Internationalisierung von AI – ihrer rechtlichen, ökonomischen und technischen Rahmenbedingungen als Voraussetzung für einen «Digital Single Market».²⁴ Der Schwerpunkt dieses Beitrags liegt deswegen auf der EU-Ebene.

Grundsätzlich darauf hinzuweisen ist, dass sowohl auf EU-Ebene wie auch auf deutscher Ebene unterschiedliche Ethikvorstelllungen entwickelt wie dokumentiert werden. Zu unterscheiden sind funktionalitätsübergreifende Anforderungen – Foundations – einerseits und sektorspezifische Anforderungen andererseits. So ist etwa auf BRD-Ebene bereits in der 18. Legislaturperiode ein Bericht zur Ethik des autonomen Fahrens²⁵ erstellt worden. Der folgende Beitrag konzentriert sich auf allgemeine Grundlagen für KI – und nicht die funktionalitätsspezifischen Details etwa von «Luft»Drohnen oder «Straßen»Drohnen (Autos). Auch die Kommission erkennt, dass sich sektorspezifische(s) KI(Recht) konsolidieren wird und stellt in Aussicht, dass die Aufsicht über die Durchsetzung der RER-Anforderungen skaliert wird: «Diese Anforderungen sollen zwar generell für alle KI-Systeme in verschiedenen Umfeldern und Branchen gelten, bei ihrer konkreten und verhältnismäßigen Umsetzung sind aber der jeweilige spezifische Anwendungskontext und die möglichen Folgen zu berücksichtigen. So wäre beispielsweise eine KI-Anwendung, die ein unpassendes Buch vorschlägt, weit weniger gefährlich als etwa eine Anwendung, die eine falsche Krebsdiagnose stellt, und könnte daher einer weniger strengen Aufsicht unterliegen.»²⁶

Der vorliegende Beitrag konzentriert sich im «Mehrebenenmodell»²⁷ auf die deutsch-europäische Perspektive und verzichtet bewusst auf völkerrechtliche²⁸ und rechtvergleichende Analysen. Die ungewöhnliche Bezeichnung «deutsch-europäisch» soll darauf hinweisen, dass es sich nicht um eine Analyse aus anderer mitgliedsstaatlicher Rechtsperspektive handelt. Deswegen ist das Grundgesetz wie die «Deutsche Verfassungsidentität» (Art. 79 Abs. 3, 23 Abs. 1 S. 3, 1 und 20 GG) in der Rechtsprechung des Bundesverfassungsgerichts²⁹ Ausgangs- und Endpunkt der rechtlichen Analyse einer deutschen Staatsrechtslehrerin («ich»).

Nicht nur die «deutsche Verfassungsidentität», sondern auch Verfassungsänderungen hinsichtlich ihres «Obs» und «Wies» müssen wissenschaftlich, politisch und rechtlich entschieden wie gestaltet werden («Legal Design»), damit unsere Welt durch KI bereichert werden kann. Klar sein muss: Die Alternative zur Schaffung von neuem (Verfassungs-)Recht ist die Auslegung des existierenden Rechts (hier als «traditional law» bezeichnet). Bei letzterem wird strittig werden, inwieweit die Gestaltungsfreiheit des einfachen Gesetzgebers reicht bzw. die Verschiebung der (Interpretations)Macht auf die Gerichte (der 3. Gewalt) dem Rechtsstaatsprinzip und der Wesentlichkeitstheorie³⁰ genügt. Dieses a priori Verständnis ist zu teilen, weil das Grundgesetz von 1949 eine Mitwelt mit (Maschinen mit) KI nicht kennen konnte. Funktionsvorbehalte für menschliche Intelligenz werden (Rechtsgedanke des Art. 33 Abs. 4, 5 GG bei der Wahrnehmung von Hoheitsaufgeben durch Beamte) zu erwägen sein. Darüber hinaus werden vielleicht sogar Verfassungsänderungen notwendig sein, wenn Freiheitsrechte nur noch in der Mensch-Maschine-Welt ausgeübt werden können: etwa die Ausprägung der allgemeinen Handlungsfreiheit (Art. 2 Abs. 1 GG) des «Reitens im Walde»³¹ zusammen mit «Luft»Drohnen, die Pferd und Reiter³² filmend begleiten und von Fußgängern zu tolerieren sind. Darüber hinaus gibt es – absehbar – Diskurs- und Positionierungsbedarf:

Die Kommission wählt eine undifferenzierte Elektrizitätsmetapher für eine «KI-Realität»³³: ‹Wie die Elektrizität in der Vergangenheit ist es jetzt die künstliche Intelligenz (KI), die unsere Welt grundlegend verändert.›³⁴ Bereits 2017 bejaht auch der Schlussantrag von Generalanwalt Wathelet im Kontext von «Legal Tech»«[...] artificial intelligence programmes inevitably transform the way in which the profession and its practice are conceived.»³⁵

Aus deutscher energierechtlicher Sicht ist diese Gleichstellung wenig aussagekräftig, weil sie nicht zwischen unterschiedlichen Energieerzeugungstechnologien – Windkraft, Kraft-Wärme-Kopplung, Wasserkraft, Braun- und Steinkohle, Solar- und Kernenergie differenziert. Davon hängt auch ab, ob man KI-Veränderungspotenzial als «Transformation», «Evolution» oder «Revolution» (eigenes Akronym: (R)Evolution) bezeichnen will, soll, kann, muss. Jedenfalls der Kommission auf EU-Ebene scheint klar zu sein, dass diese Umgestaltung der Welt in eine «KI getriebene Welt»³⁶ (in der Terminologie der AI-HLEG; «Game-Changer»³⁷ – in der Terminologie der Kommission) eine neue, transdisziplinäre Wissenschaft wie Praxis erfordert.

Solodisziplinäre juristische Expertise reicht evident nicht aus, um den «Anforderungen» der Kommission an die neue «Marke» «Human-Centric Artificial Intelligence» («HCAI») zu genügen: «Durch das Bemühen um eine auf den Menschen ausgerichtete KI, die auf Vertrauen beruht, gewährleisten wir, dass unsere gesellschaftlichen Grundwerte gewahrt bleiben und Europa und seine Industrie als Vorreiter auf dem Gebiet der innovativen KI eine unverwechselbare Marke schaffen können, die überall auf der Welt Vertrauen genießt.»³⁸ Nach dem von der KI-Expertengruppe im April 2019³⁹ zugrunde gelegten Strategiekonzept braucht es die Trias Recht, Ethik und Robustheit (hier als RER-Formel bezeichnet). Diese RER-Formel/LER-Formula hat sich im April 2019 die Kommission in einer Mitteilung zu Eigen gemacht.⁴⁰ Die unabweisbare Konsequenz ist, dass sich in der KI(Rechts)Wissenschaft zumindest rechtliche, ethische (im weiteren Sinne) und technologische Kompetenzen multi- und transdisziplinär vereinen. Diese Entwicklung ist von der Autorin («ich»), die an der Begründung einer neuen Wissenschaftsdisziplin (Cyber(rechts)wissenschaft – Cyberscience) – arbeitet, vorhergesehen worden.⁴¹ Mit den gegenwärtigen AI-Konzepten auf europäischer Ebene ist diese Transdisziplinarität wie disziplinübergreifende Konkurrenz genauso ausweglos wie wegbereitend. Wissenschaftskonkurrenzen bereiten auf konkurrierende Definitionen voraus:

Auch wenn man der kartell- und wettbewerbsrechtlichen Argumentation (s.o.) zu der Binnenmarktnotwendigkeit von autonomen wie konkurrierenden KIs nicht folgt, ist festzuhalten: Kommission und die von ihr eingesetzte AI-HLEG differieren in der Definition von KI. Auch insoweit ist der Plural gerechtfertigt.

Grundsätzlich festzuhalten ist, dass die Kommission eine sehr weite und bisweilen wertende KI-Definition wählt: «künstliche Intelligenz (KI) bezeichnet Systeme mit einem «intelligenten» Verhalten, die ihre Umgebung analysieren und mit einem gewissen Grad an Autonomie handeln, um bestimmte Ziele zu erreichen. [...] KI nutzen wir täglich, um z.B. Texte zu übersetzen, Untertitel in Videos zu erzeugen oder unerwünschte E-Mails zu blockieren. Viele KI-Anwendungen benötigen für eine optimale Funktionsweise Daten. Sobald sie gut funktionieren, können sie Entscheidungen im jeweiligen Bereich verbessern und automatisieren. [...].»⁴² Die Einzelheiten sollen hier nicht näher beleuchtet werden, aber darauf hinzuweisen ist: je weiter (und anspruchsloser) der KI-Begriff und je unbestimmter er ist, desto wahrscheinlicher ist eine Nichtachtung der Menschenwürde wie «Verwässerung» (dilution argument) des Begreifens von menschlicher «Intelligenz».

Die Definition, in der sich die Expertengruppe (AI-HLEG) im April 2019 von der Kommissionsdefinition aus dem April 2018 distanziert, lautet: «Artificial intelligence (AI) systems are software (and possibly also hardware) systems designed by humans that, given a complex goal, act in the physical or digital dimension by perceiving their environment through data acquisition, interpreting the collected structured or unstructured data, reasoning on the knowledge, or processing the information, derived from this data and deciding the best action(s) to take to achieve the given goal. AI systems can either use symbolic rules or learn a numeric model, and they can also adapt their behaviour by analysing how the environment is affected by their previous actions. [...] As a scientific discipline, AI includes several approaches and techniques, such as machine learning (of which deep learning and reinforcement learning are specific examples), machine reasoning (which includes planning, scheduling, knowledge representation and reasoning, search, and optimization), and robotics (which includes control, perception, sensors and actuators, as well as the integration of all other techniques into cyber-physical systems).»⁴³

Hervorzuheben ist, dass die Expertengruppe die multidisziplinäre Perspektive wie die «Unbestimmtheit» bereits des Intelligenzbegriffs kennt.⁴⁴ In respektvoller Weise wird mitgeteilt, dass ein wichtiges Standardwerk über KI die Terminologie der «Rationalität» – und eben nicht der Intelligenz – als charakteristisch erachtet.⁴⁵ Dass der «Kunstbegriff» sich in deutscher, verfassungsrechtlicher Perspektive nahezu jeder (außer der rechtlichen) Konkretisierung entzieht, darf als bekannt vorausgesetzt werden.⁴⁶ Inspiriert durch die AI-HLEG wird hier vorgeschlagen, «Künstliche Rationalität» als Terminologie derzeit⁴⁷ zu Grunde zu legen. Mit der Verwendung des Adjektivs «künstlich» wird dem Kreativitätspotenzial dieser Hochtechnologie Respekt erwiesen.

Sprachlogisch ist einsichtig, dass zwei Begriffe – K und I – zwei Definitionsanstrengungen verlangen. Worin besteht die «Kunst» und was soll die «Intelligenz» sein. Hervorzuheben ist, dass wir traditionell «Intelligenz» in Verbindung mit Menschen und Tieren verwenden. Beide Spezien sind durch Autonomie wie Universalität gekennzeichnet – sie konnten in der Vergangenheit stromunabhängig (Autonomiedetail) sämtliche Herausforderungen von Geburt, Leben und Tod bewältigen (Universalität). Die Gleichstellung im Substantiv «Intelligenz» dieser bekannten Intelligenzen mit «Sprachassistenten, Bildanalysesoftware, Suchmaschinen, Sprach- und Gesichtserkennungssysteme, [...] moderne Roboter, autonome Pkw, Drohnen oder Anwendungen des «Internet der Dinge»⁴⁸ – wie es die Kommission 2018 tut – bereitet auf die Herausforderung zur Kritik vor. Die undifferenzierte Gleichstellung von Rationalität mit Intelligenz – siehe oben – droht allein begrifflich das Verständnis von menschlicher Intelligenz zu devaluieren.

Deswegen wird vorgeschlagen, nicht «KI-getrieben» natürliche Intelligenz (NI) als Terminologie zugrunde zu legen (siehe den Titel), sondern «menschliche Intelligenz» (dann bleibt auch der Respekt vor wie die Differenzierung von tierischer (oder pflanzlicher?) Intelligenz erhalten). Darüber hinaus sollten KR-Konzepte (Künstliche Rationalität) funktionsdifferenziert skaliert werden. Es gibt eben – wie etwa beim autonomen Fahren⁴⁹ – unterschiedliche Autonomiegrade und es gibt unterschiedliche Funktionalitäten – wie ein «Auto» oder eine «Luftdrohne» oder ein «Saug-, Mäh- oder Pflegeroboter». Darüber hinaus gibt es unterschiedliche Qualitäten der (Hoch-)Technologie – etwa die «Androidin» Elenoide⁵⁰.

Die Autorin sucht seit 2014 mit der GoCore! Initiative⁵¹, die Kernherausforderungen zu identifizieren und den Weg zur CYBERSCIENCE (Cyber(Rechts-)wissenschaft) zu bahnen. Ein Milestone war die Etablierung einer Forschungsagenda in 2014 (vorgestellt auf der IRIS 2016)⁵², die als Basics Nr. VIII. (von XIII) «Automatisierung und Mensch-Maschine-Interaktion» auch⁵³ KI fokussiert. Darüber hinaus wird (IT-)Sicherheit bereits damals als Äquivalent zum Rechtsstaatsprinzip qualifiziert und eine Verfassungsergänzung erwogen. Als Ergebnis dieses Beitrags plädiert die Autorin für drei GoCore!-AI-Agenden:

(1) Das Verhältnis von Recht und Ethik – zwei Elemente der RER-Formel – sind in Iterationsprozessen allzeitig und überall zu überprüfen. Voraussichtlich entwickeln die Volkrepublik China wie die Vereinigten Staaten von Amerika unterschiedliche Ausprägungen von «Ethik» und Europa begibt sich auf den sog. «dritten Weg». ⁵⁴ Auch Erkenntnisse über «Ethik» werden also verbreitert wie vervielfältigt werden müssen.

(2) Für eine Positionierung auf dem globalen Markt ist die Interoperabilität von Rechtssystemen ständige Herausforderung. Die drängende Frage für KI in 2019 nach dem «Dateneigentum» neuer Bürger (der Cybercitizen im Cyberstate/der Cyberunion) wird vorhersehbar Recht und Ethik in Konkurrenz zueinander setzen. «Dateneigentum» in der Gegenwart und der Zukunft muss deswegen rechtswissenschaftliche Kernherausforderung werden – (Rechtsgedanke des Art. 14 Abs. 1 S. 1 GG) und/oder Allgemeinwohlexegese (Rechtsgedanke des Art. 14 Abs. 1 S. 2, Abs. 2 und 3 GG). Grundsätzlich ist inspiriert durch die Elektrizitätsmetapher auch über eine wirtschaftliche Teilhabe der «Datensubjekte» ⁵⁵ zu streiten ⁵⁶: Warum sollen in der Elektrizitätswirtschaft private Einspeiser – sog. «Prosumer» ⁵⁷– eine Einspeisevergütung erhalten und in der Datenwirtschaft die «Datensubjekte» nicht? (Inter-)Nationale Ethikkontroversen vermögen diese grundsätzliche Kapitalismus- ⁵⁸ wie Sozialisierungsherausforderung (Art. 15 GG) jedenfalls für die BRD nicht zielführend zu bewältigen. Es steht die Frage einer Verfassungsänderung durch Einführung neuer Grundrechte, Staatsziele, von Instituts- und/oder institutionellen Garantien an. Weil alle Einzelheiten – insbesondere die jüngste Aufsatz- und Archivliteratur aus 2017 ff. – hier nicht geteilt werden können, wird die Kernforderung einer (V)Erfassung eines «Cyberstate» und einer «Cyberunion», die äquivalent zum «traditional law» der Gegenwart und Vergangenheit Freiheit, Sicherheit, und Recht garantiert (vgl. Art. 67 Abs. 1 AEUV), erhoben.

(3) Wenn eine Hybridwelt, die das Miteinander wie Gegeneinander von menschlicher wie künstlicher Intelligenz voraussetzt, die globale Zukunft ist – dann muss KI (Aus-)Bildungsinhalt in allen Altersstufen der BRD- wie Unionsbürger werden. Andernfalls droht – wie im BRD-Kernenergierecht von Kalkar I ⁵⁹ bis Atomkonsens II ⁶⁰– die teure und im Prozess ineffiziente, schwer zu ertragende wie schwierig zu erlangende Erkenntnis, dass ein demokratischer Rechtsstaat diese Risiken einer Hochtechnologie nicht zu sichern vermag wie seine Bürger sie nicht zu akzeptieren vermögen. Mit Atomkonsens II hat das BVerfG die Gesetzgebungsmehrheit, die sich außerstande sah, die Bewältigung dieser Herausforderungen ihren Wählern zu vermitteln, unterstützt.Möge dieses (negative) Erfahrungskapital im Umgang mit Hochtechnologie in der Vergangenheit uns befähigen, im «GoCore! Neuland» der «KI getriebenen Welt» die Chancen nachhaltig und wahrhaftig zu ermitteln wie zu testen. Vorhersehbar ist: die «KI-Brille» wird uns Eigenschaften wie Funktionalitäten wie Vorzüge menschlicher Intelligenz zeigen, die uns vielleicht nicht mehr so selbstverständlich sind. Mögen wir in der Lage sein, die besten Leistungen aller Intelligenzen dergestalt zu vereinen, dass die Risiken und Gefahren – insbesondere menschlichen Fehlverhaltens ⁶¹– minimiert werden.