Jusletter IT

Vom Vertrauen zur Verantwortung in der digitalisierten Welt

  • Author: Rolf H. Weber
  • Category of articles: Zum Generalthema Verantwortungsbewusste Digitalisierung
  • Category: Articles
  • Region: Switzerland
  • Field of law: Legal Theory
  • Collection: Conference proceedings IRIS 2020
  • DOI: 10.38023/489b996b-7d36-4969-99b9-fcbf2c0ad2a0
  • Citation: Rolf H. Weber, Vom Vertrauen zur Verantwortung in der digitalisierten Welt , in: Jusletter IT 28. Februar 2020
Die durch die neuen Technologien ermöglichte Digitalisierung des Lebens und der Geschäftsmodelle muss vertrauensorientiert und verantwortungsbewusst erfolgen. Dieses grundsätzliche Anliegen wird in der internationalen Diskussion in neuerer Zeit vermehrt beachtet (z.B. im Kontext der Big Data Analysen und der Artificial Intelligence); die Umsetzung verantwortungsorientierter Massnahmen schreitet aber nur langsam voran; eine erhöhte Aufmerksamkeit ist ein Gebot der Stunde, um Enttäuschungen als Folge von Digitalisierungen zu vermeiden.

Inhaltsverzeichnis

  • 1. Einleitung
  • 2. Vertrauen: Begriff und Bedeutung
  • 2.1. Geschichtliche Entwicklung
  • 2.2. Vertrauen in den Sozial- und Rechtswissenschaften
  • 3. Verantwortung: Begriff und Bedeutung
  • 3.1. Geschichtliche Entwicklung
  • 3.2. Verantwortung in den Sozial- und Rechtswissenschaften
  • 4. Herausforderungen für Vertrauen und Verantwortung durch die Digitalisierung
  • 4.1. Schaffung des Problembewusstseins
  • 4.2. Beispiele für Bereiche mit hohem Verantwortungsbedarf
  • 4.2.1. Big Data Analysen
  • 4.2.2. Artificial Intelligence
  • 4.3. Umsetzung von verantwortungsorientierten Massnahmen
  • 5. Ausblick
  • 6. Literatur

1.

Einleitung ^

[1]

Die modernen Technologien, insbesondere die Digitalisierung in all ihren Facetten, prägen das persönliche, berufliche und öffentliche Leben in immer stärkerem Ausmasse. Zwar vermag sich der Fortschritt in verschiedenen Bereichen positiv auszuwirken, doch ist nicht zu übersehen, dass auch problematische Folgewirkungen eintreten können. Aus diesem Grunde sind deshalb in letzter Zeit ethische und soziale Komponenten des tiefgreifenden Wandels sowie die Fragen von Vertrauen und Verantwortung in der digitalisierten Gesellschaft verstärkt in den Vordergrund getreten. Der nachfolgende Beitrag untersucht, wie der Weg der Digitalisierung vertrauensorientiert und verantwortungsbewusst zu beschreiten ist. Im Anschluss an eine theoretische Grundlegung der Begriffe Vertrauen und Verantwortung wird anhand der konkreten Beispiele von Big Data und Artificial Intelligence erläutert, wie in der Entwicklung vom Vertrauen zur Verantwortung der ethikbezogene Umsetzungsprozess im Recht erfolgen soll.1

2.

Vertrauen: Begriff und Bedeutung ^

2.1.

Geschichtliche Entwicklung ^

[2]

Das Vertrauen ist ein Begriff, der schon in der Antike von Bedeutung war (als Pistis, Fiducia), und zwar im Spannungsfeld von Treu und Glauben. Im Alten Testament waren Hoffnung und Sicherheit das Resultat des Vertrauens auf Gott (Altes Testament, Psalm 56, 5, 12).2 Auch für Philosophen wie Demokrit und Aristoteles hat das Vertrauen nicht nur im interpersonellen Verhältnis, sondern ebenso in der politischen Struktur (Polis) eine Rolle gespielt.3 Cicero war es als Jurist vorbehalten, wohl erstmals den Begriff des Vertrauens in die Nähe zum Recht zu rücken. Epikur und Seneca haben den Bezug des Vertrauens zur inneren Sicherheit betont; schon in der Aeneis von Vergil (Buch I, 212) kommt übrigens Fides als Personifikation der rechten Hand und damit abgegebener Versprechen vor.

[3]

Bei Philosophen und Soziologen des 19. Jahrhunderts, z.B. Fichte, Hegel und Simmel, ist das Vertrauen zu einem mittleren Zustand des Menschen zwischen Wissen und Nichtwissen geworden. Im Hintergrund steht materiell, v.a. in der Soziologie von Georg Simmel (1908), die Erwartung der Erfüllung von Verträgen. Sozialkonstitutiv lässt sich nach ihm sagen, dass je differenzierter eine Gesellschaft ist, desto geringer die Chance auf ein identifikationsbedingtes Vertrauen und desto grösser das Nichtwissen über andere Akteure sei, ohne welches ein situationsbedingtes Vertrauen gar nicht möglich wäre.

2.2.

Vertrauen in den Sozial- und Rechtswissenschaften ^

[4]

Von besonderer Bedeutung ist der Begriff des Vertrauens für den Rechtssoziologen Niklas Luhmann gewesen, der im Vertrauen einen Mechanismus zur Reduktion sozialer Komplexität gesehen hat:4 «Grundlage allen Vertrauens ist die Darstellung des eigenen Selbst als einer sozialen, sich in Interaktionen aufbauenden, mit der Umwelt korrespondierenden Identität.» Die Reduktion von Komplexität durch Vertrauen vermag aber die möglichen Faktoren der Unsicherheit zu vergrössern.5 Luhmann hat das Konzept des Vertrauens zwischen Individuen erweitert zu einem Modell der Vertrauensbildung in Organisationen; erforderlich ist dabei eine Unterscheidung zwischen dem persönlichen Vertrauen und dem Systemvertrauen, insbesondere in komplexen Sozialordnungen.6

[5]

Vertrauen wird auch in der Ökonomie diskutiert; so hat Francis Fukuyama für sein 1996 erschienenes Buch den Titel «Trust», d.h. «Vertrauen», gewählt und den Untertitel «The Social Virtues and the Creation of Prosperity» angefügt.7 Vertrauen ist insoweit die Essenz des Sozialkapitals: «The Concept of Social Capital makes clear why capitalism and democracy are so closely related».8 Über die «reine» Marktwirtschaft bzw. die rationale Gütervermehrung hinaus geht es aber auch, in Anlehnung an Adam Smith und Georg Wilhelm Friedrich Hegel, um die menschliche Anerkennung, die Reputation.9 Insbesondere in Organisationen lässt sich differenzieren zwischen dem situationsbedingten, dem eigenschaftsbasierten und dem identifikationsbasierten Vertrauen.10

[6]

Im Recht kommt dem Vertrauen schon konzeptionell eine grosse Bedeutung zu: Das Recht hängt mit den Vertrauenstatbeständen zusammen, wie etwa der Begriff des Vertrauensprinzips (im Vertragsrecht als Vertrauensschutz und als Vertrauenshaftung) zeigt.11 Schon die Eingangsbestimmung zum Schweizer Zivilgesetzbuch sagt als prominente Maxime, es gelte, nach dem Gebot von Treu und Glauben zu handeln (Art. 2 Abs. 1 des Schweizerischen Zivilgesetzbuches, ZGB). Dieser bereits vor über hundert Jahren verankerte Grundsatz hat auch Eingang in die neue Schweizer Bundesverfassung von 1999 gefunden, die festhält, dass jede Person Anspruch darauf hat, von den staatlichen Organen und ohne Willkür sowie nach Treu und Glauben behandelt zu werden (Art. 9 der Schweizer Bundesverfassung, BV).

[7]

Im Bereich der nachfolgend zu vertiefenden Verantwortung begründet die Vertrauenshaftung ein rechtliches Einstehenmüssen für die treuwidrige Enttäuschung von erwecktem Vertrauen.12 Die Vertrauenshaftung hat in den letzten 20 Jahren in Gerichtspraxis und Doktrin eine starke Verdichtung erfahren.

3.

Verantwortung: Begriff und Bedeutung ^

3.1.

Geschichtliche Entwicklung ^

[8]

Auch der Begriff der Verantwortung weist lange historische Wurzeln auf: Bereits Aristoteles hat die Zurechnung von Handlungen und damit die Verantwortung im Kontext moralischer und rechtlicher Normen thematisiert (EN III 7, 1113b). Für die Philosophie von Immanuel Kant ist, ohne ausdrücklichen Bezug auf die Verantwortung, die Zurechnung von Handlungen nicht nur als rechtliches, sondern auch als moralisches Urteil ein zentraler Bestandteil der persönlichen Freiheit.13 Als wohl erster Philosoph hat sich Søren Kierkegaard mit der Verantwortung als essentielles Bedürfnis auseinandergesetzt, und zwar im Kontext der Suche nach dem Sinn des Lebens.14 Ähnlich steht bei Friedrich Nietzsche die Verantwortung im Zusammenhang mit der Entwicklung eines neuen Menschentyps.15 Max Weber entwickelt in seinem Beitrag «Politik als Beruf» verschiedene Formen der Verantwortungsethik.16 Bei Albert Schweitzer geht es um das Ideal der Humanität, bei Dietrich Bonhoeffer um den Widerstand gegen das Unrecht und bei Jean-Paul Sartre («Das Sein und das Nichts») um den Existentialismus im Verhältnis von Freiheit und Verantwortung.

3.2.

Verantwortung in den Sozial- und Rechtswissenschaften ^

[9]

Die Verantwortung spielt insbesondere im Rahmen der Ethik eine grosse Rolle: Ethisches Verhalten bedeutet, auch dann verantwortungsvoll vorzugehen, wenn keine entsprechende rechtliche Pflicht besteht. Ethik umfasst Charakter und Moral, die menschlichen Aktionen leiten sollen. Aus diesem Grund beruht die Verantwortung nicht allein auf rechtlichen Normen, sondern auch auf (oft freiwillig befolgten) religiösen Geboten oder moralischen Vorgaben. Die Verantwortung lässt sich also nicht allein auf eine juristische Ebene beschränken.17 Eine Rolle zu spielen vermögen somit ebenfalls moralische Konnotationen und Motivationen (einschliesslich des Berufsethos).

[10]

Die Verantwortung ist insbesondere ein zentraler Begriff im Recht. Rechtsgeschäftliches Handeln ist ohne Verantwortung nicht denkbar; wer eine freiwillig eingegangene Pflicht verletzt, kann zur Verantwortung gezogen werden, was Haftungsfolgen zur Konsequenz hat. Juristisch geht es, wie der bekannte Rechtsphilosoph H. L. A. Hart schon vor 50 Jahren diagnostiziert hat, um die kausale Verantwortung zwischen Verursachung und Eintritt einer bestimmten Folge im Rahmen der Rollenverantwortung für eine Aufgabe und der Fähigkeitsverantwortung im Hinblick auf die Erfüllbarkeit eines Versprechens.18 Im rechtlichen Sinne eröffnet die Verantwortung dann auch oft die Frage nach der Schuld.

[11]

Verantwortung ist ebenso in Unternehmen relevant; die Tätigkeitsausübungen von Unternehmen erfolgen im Interesse von Dritten (meist der Eigentümer), weshalb die Bestimmungen zum Organisationsrecht regelmässig Normen zur Verantwortlichkeit enthalten. Im unternehmerischen Kontext geht es um die Verantwortung für institutionelles Handeln und damit oft auch um die gemeinschaftlich zu tragende Mitverantwortung. Im Raum steht die Forderung nach Rechenschaft; dabei lässt sich das Ausmass der Verantwortung einer Person auf die Art der Relation des Akteurs zu einem Geschehen beziehen.19 Weil der kausale Beitrag des Einzelnen im unternehmerischen Kontext aber oft nur schwer nachweisbar ist, hat sich der Begriff des «Organisationsverschuldens»20 herausgebildet, der die Führungsebene des Unternehmens betrifft. Zunehmend kommt auch der englische Begriff der Accountability zur Anwendung.

4.

Herausforderungen für Vertrauen und Verantwortung durch die Digitalisierung ^

4.1.

Schaffung des Problembewusstseins ^

[12]

Dass sich die immer schneller entwickelnden Technologien, insbesondere die Digitalisierung, verstärkt durch neue Infrastrukturen wie Blockchain, auf das Vertrauen und die Verantwortung auszuwirken vermögen, scheint heute allgemein akzeptiert zu sein. Schon im Jahre 2016 hat Frank Pasquale in seinem Buch «The Black Box Societey: The Secret Algorithms That Control Money and Information» darauf hingewiesen, dass wesentliche Parameter des individuellen Lebens undurchsichtig geworden seien:21 «You can’t form a trusting relationship with a blackbox.» Viele Aspekte der Technologien sind heute für einen grösseren Teil der Bevölkerung kaum mehr voll zu durchschauen; entstanden ist ein «Knowledge Problem», das nicht in der Natur, sondern nach Pasquale in den menschlichen sozialen «Konstruktionen» liegt.22

[13]

Vertrauen und Verantwortung weisen einen Bezug zur Kontrolle als gleichberechtigte Komponente der Zusammenarbeit auf. Das Vertrauen ist v.a. in nicht beobachtbaren Situationen wichtig. Im Falle vorhandener Transparenz besteht nämlich weniger Anlass für Kontrolle bei bestehendem Vertrauen; eine erkannte Kontrollnotwendigkeit führt indessen zu einem Vertrauensverlust. Lässt die Kontrolle auf ein Fehlverhalten schliessen, kommt es ggf. zu einer Verantwortungszuordnung, d.h. die Verletzung des gebotenen bzw. erwarteten Vertrauens löst die Verantwortung aus.23

[14]

Die mannigfaltigen Nutzungsmöglichkeiten der Digitalisierung sind sowohl ein wesentliches Element individueller Lebensgestaltung als auch integrierender Bestandteil von Prozessen privater und öffentlicher Unternehmen. Der fortlaufende Datenstrom zwingt dazu, die Informationen auf ihre Qualität hin zu überprüfen und auch sinnvoll zu bewirtschaften (z.B. zu verteilen, überwachen und archivieren).24 Schulung und Wissensvermittlung zur Schärfung des Problembewusstseins sind deshalb in der Gesellschaft und in den Organisationen von grosser Bedeutung; ein wichtiges Stichwort ist der Knowledge Transfer an die Betroffenen.25

4.2.

Beispiele für Bereiche mit hohem Verantwortungsbedarf ^

4.2.1.

Big Data Analysen ^

[15]

Die unübersehbare Sammlung und Verknüpfung von Daten, heute meist «Big Data» genannt, ermöglicht Datenanalysen, die im Persönlichkeitsbereich und im Produktbereich völlig neue Herausforderungen stellen. Als die vier wesentlichen Eigenschaften gelten die Menge der Daten, die Geschwindigkeit der Verarbeitung, die Vielfalt der Daten und die Richtigkeit der Daten. Big Data-Analysen erweisen sich aufgrund ihrer breiten Datenbasis meist als objektiv und ergebnisbasiert, doch liefern sie nicht rationale Entscheidungsgrundlagen, sondern stellen nur Wahrscheinlichkeitsrechnungen für eine optimalere Entscheidungsfindung zur Verfügung.26

[16]

Big Data-Analysen können in Konflikt geraten mit verfassungsrechtlichen Grundnormen (z.B. Gleichbehandlungsgebot bzw. Diskriminierungsverbot und informationelle Selbstbestimmung). Mit Blick auf den Datenschutz geht es insbesondere darum, die einzelnen gesetzlichen Prinzipien (z.B. Datenminimierungs- und Verhältnismässigkeitsgrundsatz, Gebot der Zweckbindung) zu beachten. Alternative Konzepte sind die Accountability als besondere Art der Verantwortung oder ein Sharing the Wealth-Modell.27

[17]

Mehr Regulierung ist nicht zwingend die Lösung; vielmehr muss es darum gehen, die Individuen besser mit den Technologien vertraut zu machen, damit sie als Informierte zu handeln vermögen. Die Zivilgesellschaft ist also durch einen angemessenen Knowledge Transfer in die Lage zu versetzen, mit den neuen Technologien sachgerecht umzugehen.

[18]

Wer Daten sammelt und in komplexen Prozessen verarbeitet (Big Data Analysen), unterliegt in besonderem Masse einer Verantwortung gegenüber den von der Datenbearbeitung betroffenen Personen, weil regelmässig (auch) Personendaten eine Rolle spielen. Die Zustellung massgeschneiderter Werbung gestützt auf Big Data Analysen mag unerfreulich sein, stellt aber zumindest keinen sehr gravierenden Eingriff in die Persönlichkeit dar. Wird hingegen eine Person wegen «Fehlern» in der Hard- oder der Software im Kontext der Datensammlung oder der Datenauswertung diskriminiert oder falsch «dargestellt», ist die Beeinträchtigung der informationellen Selbstbestimmung und der Menschenwürde dieser Person offensichtlich. In einer solchen Situation muss ein Rückgriff auf den Verantwortungsträger möglich sein. In der Vergangenheit hat das Datenschutzrecht, jedenfalls in der Schweiz, etwas weniger in der Europäischen Union, nur beschränkt eine Handhabe geboten, um die Verantwortung und Haftung auch tatsächlich durchzusetzen; eine gewisse Änderung ist mit der Datenschutz-Grundverordnung (DSGVO) eingetreten, weil zwischenzeitlich bereits recht hohe Bussen ausgefällt wurden, während deren Rechtfertigung in der Schweiz weiterhin umstritten ist.

4.2.2.

Artificial Intelligence ^

[19]

Ein weiterer wesentlicher Aspekt betrifft den Einsatz von Algorithmen, die selbstständig, d.h. auf Maschinen abgestützt, entscheiden und menschliche Interaktionen unnötig machen. Die Entwicklungen von künstlicher Intelligenz (Artificial Intelligence) stehen erst am Anfang. Die Dynamik der neuen Technologien und deren Entscheidungsgeschwindigkeit stellen aber herausfordernde Fragen, die bisher nicht zu beantworten gewesen sind, etwa: Sind durch Algorithmen veranlasste automatisierte Entscheidungen anders geartet als menschliche Entscheidungen? Wie reflektiert das Recht einen solchen Umstand? Haben Maschinen ein Recht, Entscheidungen zu fällen? In welchen Lebensbereichen könnte dies der Fall sein und welche Konsequenzen (in verantwortungs- bzw. haftungsrechtlicher Sicht) ergeben sich im Falle einer «Fehlentwicklung».28

[20]

Die Artificial Intelligence ist von ihrer derzeitigen Ausgestaltung aus betrachtet noch stark verbesserungsfähig. Diese Entwicklungen erfolgen unabhängig von der Digitalisierung, insbesondere den neuen Infrastrukturen wie der Distributed Ledger Technology. Ähnlich wie bei der Digitalisierung muss die Bevölkerung aber Vertrauen in die Funktionsfähigkeit der Programme haben und kommt das Recht nicht umhin, Aspekte der Verantwortung und der Haftung zu regeln. Die heutige Gesetzeslage bedarf einer Anpassung, weil weder das traditionelle Vertrags- und Deliktsrecht noch die Produkthaftpflicht als geeignete Instrumente zur Schaffung einer sachgerechten Rahmenordnung erscheinen. Stärker in den Vordergrund zu rücken sind ebenso vorsorgliche Schutzmassnahmen.

[21]

Grundpfeiler der rechtlichen Rahmenordnung für Artificial Intelligence müssen die Menschenwürde, das Diskriminierungsverbot und der Schutz der Privatsphäre (informationelle Selbstbestimmung) sein. Von Bedeutung sind weiter die Verankerung sozio-ethischer Grundsätze beim Einsatz von Artificial Intelligence durch private und öffentliche Organisationen;29 in den meisten Richtlinien, die in den letzten Monaten von internationalen Organisationen (wie G20,30 OECD,31 Europarat,32 Europäische Kommission33) ausgearbeitet und publiziert worden sind, steht das Stichwort «Trustworthy Artificial Intelligence» im Mittelpunkt; Vertrauen («Trust») spielt also eine zentrale Rolle und ist Grundlage für die Verantwortungszuordnung.34

[22]

Die Ethics Guidelines der Europäischen Kommission stützen sich auf vier Grundprinzipien ab, nämlich den Respekt für die menschliche Autonomie, die Verhinderung von Beeinträchtigungen der Betroffenen, die Fairness und die Nachvollziehbarkeit der Vorgänge.35 Diese Liste zeigt deutlich, welche Rolle die Verantwortung mit Blick auf mögliche Schadenseintritte spielt.

[23]

Die bisherigen Bemühungen, das Vertrauen im Kontext der Artificial Intelligence stärker zu gewichten, gehen indessen noch nicht Hand in Hand mit der Ausgestaltung einer entsprechenden Verantwortungsordnung. Die Europäische Kommission hat zwar erste Diskussionspapiere veröffentlicht, die mögliche neue Haftungskonzepte diskutieren.36 Konkrete Handlungsempfehlungen stehen bisher aber aus, selbst wenn das Schrifttum durchaus entsprechende Analysen ausgearbeitet hat.37 Abgesehen von Fragen der Beweislastverteilung geht es um eine neue Adjustierung von Gefährdungshaftungen und die Verankerung von Risikozuordnungsprinzipien.38 Sachdienliche Bemühungen sind voranzutreiben, denn der Einsatz von Artificial Intelligence setzt ein grosses Ausmass an Vertrauen voraus und eine solche Individualperzeption erscheint nur dann als gerechtfertigt, wenn ein Vertrauensbruch auch zu Verantwortung und Haftung führt.

4.3.

Umsetzung von verantwortungsorientierten Massnahmen ^

[24]

Die voranschreitende Digitalisierung muss ein Anlass sein, die informationstechnologischen Rahmenbedingungen auf der Basis von «best practices» auszugestalten. In privaten und staatlichen Organisationen sind allgemeingültige Standards, die als erprobt gelten können (state-of-the-art) und die auf sozio-ethischen Werteüberlegungen aufbauen, zur Anwendung zu bringen. Eine entsprechende Digitalisierungs-Strategie, beruhend auf einem sachgerechten Informations-System, ist als zielgerichtetes Führungsinstrument auszuarbeiten. Gestützt auf die entsprechenden Zielvorgaben sind mögliche Risiken zu analysieren, Massnahmen umzusetzen und Prozesse weiterzuentwickeln.

[25]

Ein sinnvolles Konzept einer Digitalisierungs-Strategie lässt sich grundsätzlich auf drei zentralen Pfeilern aufbauen, die sich in der Vergangenheit bewährt haben:39

[26]

Zielformulierungen

  • Entwicklung
  • Sicherheit
  • Regulatorisches Umfeld
  • Katastrophenplanung
[27]

Implementierung

  • Programmadministration
  • Schulung
  • Dokumentation
  • Ressourceneinsatz
[28]

Compliance

  • Überwachungsaufgaben
  • Sicherung von Beständen
  • Berichterstattung
  • Nachbesserungen
[29]

Wie die konkreten Massnahmen aussehen sollen, hängt von der Grösse und den Geschäftsaktivitäten der betroffenen privaten oder öffentlichen Organisation ab. Die Einhaltung gewisser Rahmenbedingungen und Prozessabläufe im Kontext des Risikomanagements sind aber in allen Organisationen unumgänglich. Zudem führen die starken technologischen Entwicklungen, vor allem in der Informatik, zu neuen Herausforderungen. Die Digitalisierung ermöglicht Effizienzvorteile, verursacht aber auch bisher wenig beachtete Risiken (z.B. im Kontext der Datensicherheit). Den zentralen Gewährleistungsfunktionen, die im Unternehmen einzuhalten sind (z.B. Verfügbarkeit der Infrastruktur, Einhaltung des regulatorischen Umfeldes, Interdependenzen und Disaster Recovery), kommt deshalb eine erhöhte Bedeutung zu. Die in den letzten Jahren entwickelte Distributed Ledger Technology steigert noch die Herausforderungen. Der Schutz des Informationsflusses sowie insbesondere die Einhaltung von Daten- und Informationssicherungspflichten auf dezentralen Infrastrukturen sind eine Voraussetzung für die Aufrechterhaltung einer angemessenen «Qualität» der ausgetauschten Informationen.

[30]

Bereichsübergreifende allgemeine Rechtsbestimmungen, sind – gegebenenfalls mit Ausnahme des Datenschutz- und elektronischen Signaturrechts – kaum vorhanden. Selbstregulierungen von technischen Vereinigungen und ethikorientierten Gruppierungen lassen sich aber zur Anwendung bringen. Die Leitungsorgane von privaten und öffentlichen Organisationen haben gestützt darauf sachgerechte Handlungsanweisungen für die Umsetzung einer verantwortungsvollen Digitalisierung im Rahmen der kontextbezogenen Risikosituation auszuarbeiten (Schutz der «Information Assets») und zur Anwendung bringen zu lassen. Fehlt es an der Compliance mit solchen Handlungsanweisungen oder an der Anwendung der notwendigen Sorgfalt beim Einsatz der Digitaltechnologie, kommen die vertrags- und gesellschaftsrechtlichen Verantwortlichkeitsansprüche zur Anwendung, deren Konsequenzen nicht unbeachtlich sein können.40

5.

Ausblick ^

[31]

Die Überlegungen dieses Beitrages haben deutlich gezeigt, dass die digitalisierte Welt, geschaffen durch die modernen Technologien, auf Vertrauen und Verantwortung aufbaut. Jeglicher Fortschritt, der sowohl den Individuen als auch den Organisationen mehr Gestaltungsspielräume gibt, hat sich indessen innerhalb einer angemessenen Rahmenordnung abzuspielen. Angesichts der neuen Technologien ist deshalb das IT-Recht ebenfalls im Wandel und passt die Regelungen den heutigen Bedürfnissen an.41 Wenn es an Vertrauen fehlt oder das Vertrauen nicht durch eine sachgerechte Verantwortung «abgesichert» ist, sind Fehlentwicklungen unvermeidbar. Diese Erkenntnis zeigt sich besonders deutlich an den Beispielen der Big Data Analysen und der Artificial Intelligence. Das positive Potential ist sehr gross und damit können die negativen Gefährdungsfaktoren auch nicht gering ausfallen. Die Umsetzung von verantwortungsorientierten Massnahmen ist somit unumgänglich. Eine sinnvolle Digitalisierungs-Strategie hat deshalb sachgerechte Zielformulierungen, eine zweckbezogene Implementierung der sinnvollen Vorkehren und eine angemessene Compliance zu umfassen, um die Gewährleistungs- und Schutzfunktionen abzudecken. In den internationalen Entwicklungen wird die Bedeutung des Vertrauens («Trust») vermehrt thematisiert; eine ähnliche Entwicklung erscheint auch mit Bezug auf die Verantwortung («Responsibility») und die Haftung («Liability») als wünschenswert.

6.

Literatur ^

Brüggemeier, Gert, Gefährdungshaftung, Unternehmenshaftung, Verschuldenshaftung, Überlegungen zu den Grundlagen des Haftungsrechts, HAVE 2013, 87 ff.

Canaris, Claus-Wilhelm, Die Vertrauenshaftung im deutschen Privatrecht, Habil.-Schr. München 1971.

Denga, Michael, Deliktische Haftung für künstliche Intelligenz, CR 2018, 69 ff.

Fukuyama, Francis, Trust: the social virtues and the creation of prosperity, New York 1996.

Hänsenberger, Silvio, Die Haftung für Produkte mit lernfähigen Algorithmen, Jusletter vom 26. November 2018.

Hart, H. L. A., Punishment and Responsibility. Essays in the Philosophy of Law, Oxford 1968.

Luhmann, Niklas, Vertrauen: ein Mechanismus der Reduktion sozialer Komplexität, 5. Aufl. Konstanz et al. 2014.

Nobel, Peter, Vertrauen – Begriffliche Grundlagen, SZW 2017, S. 719 ff.

O’Neill, Onora, A Question of Trust, Cambridge 2002.

Osterloh, Margit/Weibel, Antoinette, Investition Vertrauen: Prozesse der Vertrauensentwicklung in Organisationen, Wiesbaden 2006

Pasquale, Frank, The black box society: the secret algorithms that control money and information, Cambridge MA 2016.

Patry, Robert, Le principe de la confiance, Diss. Genf 1953.

Picht, Georg, Der Begriff der Verantwortung, in: G. Picht (Hrsg.), Wahrheit, Vernunft, Verantwortung. Philosophische Studien, Stuttgart 1969, 318 ff.

Pleskie, Nicolaj, Künstliche Intelligenz und haftungsrechtliche Fragen, Jusletter IT vom 24. Mai 2018.

Schneider, Jochen, IT-Recht – Ein Rechtsgebiet im Wandel, MMR 8/2019, 485 ff.

Schweighofer, Erich, Von der Wissenspräsentation zum Wissensmanagement im eGovernment, Jusletter IT vom 21. Februar 2002, Auszug aus Tagungsband IRIS-Symposium 2002, 85 ff.

Weber, Max, Politik als Beruf, in: Gesammelte Politische Schriften, 3. Aufl. Tübingen 1971, 505 ff.

Weber, Rolf H., Digitalisierung und der Kampf ums Recht, in: A. Dal Molin-Kränzlin/A. M. Schneuwly/J. Stojanovic (Hrsg.), Digitalisierung – Gesellschaft – Recht, Analysen und Perspektiven von Assistierenden des Rechtswissenschaftlichen Instituts der Universität Zürich, Zürich/St. Gallen 2019, 3 ff. (2019a).

Weber, Rolf H., Dürfen Maschinen über Menschen entscheiden? Eine rechtliche Auslegeordnung im Lichte neuer Technologien, Schweizer Monat, Februar 2019, 72 ff. (2019b).

Weber, Rolf H., IT-Governance: unverzichtbar für jedes Unternehmen, in: Schulthess Manager Handbuch, Zürich 2017, 37 ff. (2017a).

Weber, Rolf H., Liability in the Internet of Things, Journal of European Consumer and Market Law 2017, 207 ff. (2017b).

Weber, Rolf H., Big Data: Herausforderungen für das Datenschutzrecht, in: A. Epiney/D. Nüesch (Hrsg.), Big Data und Datenschutzrecht, Zürich 2016, 1 ff. (2016a).

Weber, Rolf H., Ethics in the Internet Environment, in: Global Commission on Internet Governance, Paper Series no. 39, July 2016 (2016b).

Weber, Rolf H./Willi, Annette, IT-Sicherheit und Recht, Grundlagen eines integrativen Gestaltungskonzepts, Zürich 2006.

  1. 1 Das Internationale Rechtsinformatiksymposium (IRIS) 2020 steht unter dem Titel «Verantwortungsbewusste Digitalisierung»; in diesem Beitrag wird zudem eine Vorstufe der Verantwortung, nämlich das Vertrauen, thematisiert.
  2. 2 Diesen Gedanken aufnehmend hat Thomas von Aquin im Mittelalter einen Bezug zwischen dem Vertrauen und der Kraft der Hoffnung hergestellt (Summa Theologica, 1956).
  3. 3 Zum Ganzen eingehender Nobel, 724.
  4. 4 Luhmann, 80.
  5. 5 Luhmann, 93.
  6. 6 Luhmann, 49.
  7. 7 Fukuyama, 1996.
  8. 8 Fukuyama, 356.
  9. 9 Vgl. Nobel, 725 m.w.V.
  10. 10 Osterloh/Weibel, 49 ff. und 77 ff.
  11. 11 Zum Vertrauensprinzip vgl. statt vieler Patry, passim; zu Fairness und Vertrauen vgl. Osterloh/Weibel, 123 ff.
  12. 12 Zur Vertrauenshaftung vgl. statt vieler Canaris, passim.
  13. 13 Dieser Grundgedanke von Kant wiederspiegelt sich sowohl in seinem Werk «Metaphysik der Sitten» als auch in seinem Werk «Kritik der reinen Vernunft».
  14. 14 Vgl. Kierkegaard, Søren, Das Gleichgewicht des Ästhetischen und des Ethischen in der Ausarbeitung der Persönlichkeit, in: Entweder – Oder, Wiesbaden 1955, 250 ff.
  15. 15 Vgl. Nietzsche, Friedrich, Nachlass, Juni-Juli 1885 und Dezember 1888-Anfang Januar 1889; ähnlich auch in seinem Werk zur Genealogie der Moral.
  16. 16 M. Weber, 550.
  17. 17 Picht, 320.
  18. 18 Hart, 90 ff.
  19. 19 Vgl. auch Picht, 325.
  20. 20 Zum Organisationsverschulden vgl. Brüggemeier, 99.
  21. 21 Pasquale, 83.
  22. 22 Pasquale, 2.
  23. 23 Zu den entsprechenden Corporate Governance-Aspekten vgl. Osterloh/Weibel, 185 ff.
  24. 24 R. H. Weber, 2017a, 37.
  25. 25 Vgl. auch Schweighofer, 88 ff.
  26. 26 Eingehender dazu R. H. Weber, 2019a, 6 f.
  27. 27 Accountability beinhaltet eine haftungsbegründende Rechenschaft der handelnden Person (vgl. R. H. Weber, 2016a, 13–15) und das Sharing the Wealth-Modell bedeutet, dass der ursprüngliche Inhaber der Daten, der sie einem Dritten zur Verfügung stellt, an deren späteren Nutzen beteiligt wird (vgl. R. H. Weber, 2016a, 15–17). Einen wichtigen Stellenwert nimmt die Accountability nun auch in einschlägigen internationalen Leitlinien ein, z.B. OECD, Recommendation of Council on Artificial Intelligence vom 22. Mai 2019.
  28. 28 Vgl. auch R. H. Weber, 2019b, 72 f.
  29. 29 Im Einzelnen dazu R. H. Weber, 2016b, 4.
  30. 30 G20 Ministerial Statement on Trade and Digital Economy vom 8./9. Juni 2019, Tsukuba City, nos. 17 ff., verfügbar unter https://g20-digital.go.jp/asset/pdf/g20_2019_japan_digital_statement.pdf.
  31. 31 Recommendation of the Council on Artificial Intelligence vom 22. Mai 2019, verfügbar unter https://www.oecd.org/going-digital/ai/principles/.
  32. 32 Decl(13/02/2019) vom 13. Februar 2019, verfügbar unter https://ccdcoe.org/uploads/2019/09/CoE-190213-Declaration-on-manipulative-capabilities-of-algorithmic-processes.pdf.
  33. 33 Ethics Guidelines, verfügbar unter https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=58480.
  34. 34 O’Neill, 61 ff.
  35. 35 Ethics Guidelines (Fn. 34).
  36. 36 European Commission, Building a European Data Economy, Communication of 10 January 2017, COM(2017) 9 final, 14 f.
  37. 37 R. H. Weber, 2017b, 211 ff.
  38. 38 Im Einzelnen dazu Hänsenberger, passim; Pleskie, passim; Denga, 69 ff.
  39. 39 R. H. Weber, 2017a, 39.
  40. 40 Vgl. im Einzelnen dazu schon Weber/Willi, 197 ff.
  41. 41 Vgl. Schneider, 486 f.