Jusletter IT

«Die Frage, ob Legal Chatbots bald Rechtsanwälte ersetzen, würde ich persönlich mit Nein beantworten. Sie werden aber immer grössere Teile der Arbeit eines Rechtsanwalts übernehmen. ¹»

Obiges Zitat zeigt eindrücklich, dass Chatbots in der Zukunft auch im Bereich der Rechtsberatung eine immer wichtigere Rolle spielen werden. Es haben sich bereits diverse Anbieter auf nationaler und internationaler Ebene positioniert, welche eine Rechtsberatung mittels Chatbot offerieren. In der Schweiz bietet namentlich «Justus»² bei strafrechtlichen Fragen unverbindlichen Rat, während der Verein «Legal Help» einen Chatbot einsetzt, welcher den Erstkontakt mit dem Klienten abdeckt.³ Auch im Ausland existiert bereits eine grosse Anzahl von Angeboten. Die Deutsche Bundesverwaltung stellt einen Chatbot bereit, welcher die Bevölkerung bei Fragen rund um Corona berät⁴ und im amerikanischen Markt bietet «DoNotPay»⁵ bereits eine Vielzahl von Leistungen an. Dort kann mittels Chatbot u.a. direkt eine Beschwerde gegen eine Parkbusse eingereicht werden. Ausserdem haben sich bereits Softwareentwickler auf die Erstellung von Chatbots spezialisiert.⁶ Im Kontext dieser Entwicklungen wurde jedoch von der juristischen Praxis bisher nicht geklärt, inwiefern der Anbieter eines solchen Chatbots haftungsrechtlich belangt werden könnte, wenn der von ihm verwendete Chatbot eine fehlerhafte Auskunft erteilt und es infolgedessen zu einem Schaden kommt. Zu diesem Zweck wird hier folgende Frage aufgeworfen: Inwiefern bestehen für das Anbieten einer automatisierten Rechtsberatung mittels Chatbot haftungsrechtliche Risiken?

Methodisch wird in einem ersten Schritt eine Abgrenzung zwischen einem System mit künstlicher Intelligenz und einem rein regelbasiertem Expertensystem vorgenommen. In diesem Bereich werden auch die mit der künstlichen Intelligenz verbundenen Begriffe erläutert. Im Anschluss wird die Funktionsweise der Chatbots analysiert. Zudem werden die Chatbots in diesem Abschnitt dogmatisch nach dem Kriterium der «Autonomie» und der «Unsicherheit des Outputs» in drei Typen unterteilt. In einem zweiten Schritt erfolgt auf Basis der Erkenntnisse im technischen Bereich eine juristische Analyse der haftungsrechtlichen Fragen. In der juristischen Analyse wird untersucht, welches Vertragsverhältnis zwischen dem Chatbot-Betreiber und dem Klienten bestehen könnte. Im Anschluss wird exemplarisch die Haftung für den Chatbot-Betreiber nach dem Auftragsrecht anhand der hier vorgenommenen Typisierung der Chatbots untersucht.

Damit später eine haftungsrechtliche Analyse der Chatbots⁷ erfolgen kann, wird hier in einem ersten Schritt der Begriff der künstlichen Intelligenz (nachfolgend KI)⁸ aus technischer Sicht analysiert und von sogenannten regelbasierten Expertensystemen abgegrenzt.⁹ Diese Unterscheidung ist für die durchgeführte Analyse von besonderer Wichtigkeit, da in einem ersten Schritt die regelbasierten Expertensysteme (Chatbot Typ 1, vgl. hierzu Kap.3.1) haftungsrechtlich betrachtet werden. In einem zweiten Schritt erfolgt die Analyse der künstlich intelligenten Systeme (Chatbot Typ 2 und 3, vgl. hierzu Kap. 3.2 f.).

Bei einer Betrachtung der Fachliteratur fällt sehr schnell auf, dass grundsätzlich keine allgemein gültige Definition von KI besteht.¹⁰ Eine mögliche Definition lautet wie folgt: Als künstlich intelligent werden Systeme bezeichnet, welche (zumindest) eine Illusion eines intelligenten Verhaltens erzeugen, auch wenn sich diese Intelligenz nur auf einen sehr engen Bereich der menschlichen Intelligenz beschränkt.¹¹ Diese Beschreibung allein vermag jedoch den technischen Gehalt einer KI nicht vollständig zu umschreiben.

Die zugrunde liegende Funktionsweise einer KI ist ein Algorithmus,¹² also eine in «Einzelschritte zerlegte Handlungsanweisung zur Lösung einer bestimmten Aufgabenstellung».¹³ Ein sogenannter deterministischer Algorithmus zeichnet sich gerade dadurch aus, dass er bei Eingabe des gleichen Inputs auch immer zum gleichen Output bzw. zur gleichen Entscheidung gelangt.¹⁴ Das Vorhandensein eines Algorithmus genügt jedoch noch nicht, um das System als KI einzustufen, vielmehr ist hier der Einbezug des Machine Learnings (ML) nötig.¹⁵ Machine Learning bezweckt, dass ein lernender Algorithmus aus Erfahrungen ein komplexes statistisches Modell entwickelt, welches dann auf andere dem System bisher unbekannte Daten angewendet werden kann.¹⁶ Dieses Modell kann dann Vorhersagen treffen, ohne dass im Voraus alle Berechnungen oder Regeln vorgeben werden müssen.¹⁷ Damit sich die Vorhersagekraft eines lernenden Algorithmus erhöht, muss dieser mittels Daten trainiert werden.^{18, 19} Gemäss Wanger kann das maschinelle Lernen entweder überwacht (supervised learning), unüberwacht (unsupervised learning) oder auch in hybrider Form (semi-supervised) erfolgen.²⁰ Das überwachte Lernen zeichnet sich dadurch aus, dass dem System Trainingsdaten eingegeben werden und die zu den Eingaben gehörenden Labels²¹ mitgeliefert werden.²² Beim unüberwachten Lernen reichen die Rohdaten aus, um die zugrundeliegenden Muster zu erkennen.²³ Die dritte Kategorie stellt das semi-überwachte Lernen dar, welches zu einem Teil aus Trainingsdaten mit Labels besteht, zum anderen aber auch Rohdaten verwendet.²⁴ In diesem Bereich stellt sich die Frage, ob sich das System auch nach Aufnahme des Betriebs (autonom) weiterentwickelt, oder ob die darin enthaltene KI nach Aufnahme der operativen Tätigkeit auf ihrem Entwicklungsstatus verbleibt.²⁵ Eine weitere Entwicklung im Bereich der KI stellt die Bildung von neuronalen Netzwerken dar.²⁶ Diese neuronalen Netzwerke sind dem menschlichen Gehirn nachempfunden und bestehen aus einer Vielzahl hintereinandergeschalteter Algorithmen, welche sich gegenseitig beeinflussen.²⁷

Die Forschung unterscheidet ferner zwischen einer schwachen und starken KI. Auch hier besteht wiederrum die Problematik, dass sich bis zum gegenwärtigen Zeitpunkt keine einheitliche Definition durchgesetzt hat. So versteht namentlich Kriesel unter einer schwachen KI ein System, welches «sich in den Grenzen der jeweiligen Programmierung und im Rahmen eines eng umgrenzten Aufgabenbereichs»²⁸ bewegt. Zudem wird der Nutzungszweck, das zu erreichende Ziel und die Analysevorgaben durch den Menschen bestimmt und können durch das System nicht verändert werden.^{29, 30} Hinsichtlich der starken KI herrscht unter den Autoren zumindest dahingehend Einigkeit, dass diese in naher Zukunft nicht realisierbar ist.³¹ Eine starke KI kann den von Entwicklern gesetzten Handlungsrahmen verlassen³² und möglicherweise sogar ein eigenes Bewusstsein entwickeln.³³ Im Hinblick auf die hier durchgeführte haftungsrechtliche Analyse stellt sich zudem die Frage, ob die von der KI generierten Antworten erklärbar sind (sog. Explainable AI).³⁴ Gerade im Hinblick auf die Vermeidung von Schäden erscheint es wichtig, dass der Anbieter eines solches Systems dessen Stärken und Schwächen kennt und auch versteht, nach welchen Grundregeln das System funktioniert bzw. wie es in einem Einzelfall zu einer Entscheidung gekommen ist.³⁵ Aus diesem Grund bestehen in der Forschung Bestrebungen, die «Blackbox der KI»³⁶ mittels der Generierung von konkreten Erklärungen zu öffnen.³⁷ Es ist zudem von zentraler Bedeutung, dass die vorgenommenen Entscheidungen der AI Schritt für Schritt rückverfolgbar sind,³⁸ was wiederum bei rechtlichen Beratungsdienstleistungen mit datenschutzrechtlichen Problemen verbunden sein könnte.

Zum Schluss ist hier eine Abgrenzung der KI zu den rein regelbasierten Expertensystemen vorzunehmen. Bei den Expertensystemen werden bekannte Zusammenhänge und Wissen zur Problemlösung in «computergerechte Regeln und Modelle übersetzt».³⁹ Diese Regeln (in Form von Wenn-Dann-Beziehungen) werden dann zur Bewältigung vorgegebener Probleme und zur Analyse von Datenbeständen eingesetzt.⁴⁰ Der Vorteil bei dieser Art von Systemen ist, dass im Nachgang genau nachvollzogen werden kann, wie das Resultat (bzw. der Output) zustande gekommen ist, weil die Analyse des Inputs deterministisch nach bekannten Regeln und Schritten abläuft.⁴¹

Unter einem Chatbot wird ein «technologiebasiertes Dialogsystem» verstanden, welches «nach bestimmten Regeln oder mit Hilfe künstlicher Intelligenz mit Menschen interagiert, sei es durch Texteingabe oder auch Sprache».⁴² Diese Chatbots können nun dazu verwendet werden, dem Nutzer eine rechtliche Auskunft zu erteilen.⁴³ Nachfolgend erfolgt eine summarische Darstellung der einzelnen technischen Möglichkeiten, welche genutzt werden können, um ein solches Tool zu realisieren.

In dieser Kategorie wird ein regelorientierter Ansatz verfolgt, in welchem die rechtlichen Regeln als Code abgebildet⁴⁴ und in Form eines Entscheidungsbaumes dargestellt⁴⁵ werden. Diese Methode funktioniert dann ausgezeichnet, wenn sich die Rechtssätze in einer Wenn-Dann-Beziehung darstellen lassen.⁴⁶ Die Tatbestandselemente müssen mit einer Ja/Nein-Frage, oder einer begrenzten Anzahl von Auswahlmöglichkeiten beantwortet werden können.⁴⁷ Der Anwender kann dann jeweils die passende Antwort auswählen und gelangt dann zur Folgefrage, wobei dieser Vorgang so lange wiederholt wird, bis die Rechtsfrage beantwortet ist.⁴⁸ Die Anwendbarkeit dieses Systems ist vor allem dann eingeschränkt, wenn zur Ermittlung der Rechtsfolge eine umfangreiche Subsumptionsleistung erbracht werden muss⁴⁹, weshalb diese Methode in einigen Rechtsgebieten nur begrenzt angewendet werden kann.⁵⁰

Diese Art von Chatbots funktioniert mit Natural Language Processing (nachfolgend NLP). NLP ist eine Form der künstlichen Intelligenz, welche darauf abzielt, dass das System die menschliche Sprache verstehen, interpretieren und imitieren kann.⁵¹ Die genaue Funktionsweise von einem Chatbot dieser Kategorie kann sehr stark variieren. Namentlich beim Blitzbot der Coop Rechtsschutzversicherung wurde der Chatbot mit Tools von IBM erstellt.⁵² Die zu beantwortenden Fragen wurden hier in einem ersten Schritt in ein Regelwerk abgefasst, welches dann mit Hilfe des NLP-Tools «Conversations»⁵³ unter Verwendung von natürlicher Sprache abgefragt werden kann.⁵⁴ Darauf aufbauend wurden dann sämtliche vorhandene Daten in das Machine-Learning-Tool «Discovery»⁵⁵ eingelesen.⁵⁶ Das Tool wird mit den Daten darauf trainiert, zu den gestellten Fragen des Benutzers die passendsten Textstellen aus den Daten zuzuordnen.⁵⁷ Mackmood/Bammert/D’Onofrio haben mit Hilfe der Microsoft AI Plattform einen Chatbot für die Schweizer Post entwickelt,⁵⁸ welcher den Kunden 6 500 Fragen aus 80 verschiedenen Themenbereichen beantworten kann.⁵⁹ Eben genannte Autoren beschreiben die Wirkungsweise eines Chatbots der hier beschriebenen Kategorie etwas allgemeiner. In einem ersten Schritt wird der vom Benutzer eingegebene Input mittels NLP maschinenlesbar gemacht.⁶⁰ Danach findet das sogenannte «Intent Matching» statt, in welchem der Input entweder regelbasiert oder mittels Methoden des maschinellen Lernens analysiert wird.⁶¹ Beim Intent Matching geht es darum, dass der Chatbot die passenden Informationen aus den hinterlegten Daten abrufen kann.⁶² Bei einem regelbasierten Intent Matching erfolgt diese Zuordnung namentlich mittels Keywords⁶³, während beim Intent Machting mittels KI eine Musterkennung verwendet wird, welche den aktuellen Input mit bestehenden Input-Output-Paaren vergleicht und die beste Lösung auswählt.⁶⁴ Der letzte Schritt besteht nun darin, dass die gefundenen Informationen mit Hilfe von NLP wieder in menschliche Sprache umgewandelt und dem Nutzer die Antwort präsentiert werden kann.⁶⁵ Das Ziel bei der Entwicklung eines Chatbots mit KI besteht schlussendlich darin, dass sich dieser adaptiv an die Veränderungen der Umwelt anpassen kann⁶⁶, wobei auch bei dieser Kategorie von Chatbots zur gegenwärtigen Zeit eine enge Eingrenzung des rechtlichen Themenfelds nötig ist, damit brauchbare Ergebnisse bzw. Antworten entstehen können.⁶⁷

In der Zukunft wäre es denkbar, dass ein Chatbot entwickelt wird, welcher über ein hohes Mass an Autonomie verfügt. Folgt man der Argumentation aus Kap. 2 und Kap. 3.2, würde dies bedeuten, dass ein solcher Chatbot zuerst für einen begrenzten Einsatzbereich entwickelt wird und sich dieser in der Folge mittels Machine- oder Deeplearning selbständig weiterentwickelt. Es wäre denkbar, dass er hierzu eigenständig auf eine grosse Menge von Daten zugreifen und dadurch Kenntnisse in anderen Rechtsgebieten erlangen kann. Die Forschung ist sich jedoch zum gegenwärtigen Zeitpunkt nicht sicher, ob ein solches System überhaupt realisierbar ist.⁶⁸

Die nachfolgende Matrix unterteilt die drei Typen der Chatbots nach dem Unterscheidungskriterium «Mass an Unsicherheit des Outputs» (unter Angabe der Autonomie des Chatbots) und der «Adaptions- und Lernfähigkeit».

Abbildung 1: Unterteilung der Chatbots nach dem «Mass an Unsicherheit des Outputs» (unter Einbezug der Autonomie), sowie der «Lern- und Adaptionsfähigkeit». Eigene Darstellung in Anlehnung an Abele/D’Onofrio, S. 36, sowie Kap. 2, 3.1, 3.2 und 3.3.

Durch eine Rechtsberatung mittels Chatbot könnten in der Praxis diverse Schäden entstehen. In der juristischen Lehre wird bei den Schäden zwischen der Verletzung absolut geschützter Rechtsgüter und den reinen Vermögensschäden unterschieden.⁶⁹ Die Verletzung absolut geschützter Rechtsgüter, welche in Personenschäden (etwa eine Körperverletzung) und Sachschäden (etwa Zerstörung eines Objekts im Eigentum des Geschädigten) unterteilt werden⁷⁰, dürften im Umgang mit einem Chatbot weniger relevant sein.⁷¹ Die zweite Kategorie, der reine Vermögensschaden⁷², ist im hier betrachteten Gebiet hoch relevant. Als Beispiel könnte hier der Fall genannt werden, dass ein Chatbot einem Klienten eine falsche Rechtsauskunft erteilt und dieser basierend auf diesem Rat eine für ihn nachteilige Vermögensdisposition tätigt. Ebenfalls denkbar wäre, dass der Bot dem Nutzer eine falsche Frist zur Ergreifung eines Rechtsmittels oder eine falsche Verjährungsfrist mitteilt und der Klient infolgedessen einen Entscheid (namentlich über Steuern, Gebühren oder Bussen) nicht mehr anfechten kann.

Nach einer sorgfältigen Konsultation zahlreicher allgemeiner Geschäftsbedingungen (AGB) von unterschiedlichen Chatbot-Anbietern fällt auf, dass diese Vertragsbedingungen häufig ähnlich ausgestaltet sind. Es finden sich namentlich Bestimmungen wie «der Content auf der Website stellen keine Rechtsberatung an den Client dar, sondern dürfen ausschliesslich als unverbindliche Auskunft verstanden werden».⁷³ Ähnliche Bestimmungen finden sich auch bei einem amerikanischen Anbieter, welcher seine Dienstleistung ausdrücklich nicht als rechtliche Beratung klassifiziert.⁷⁴ Ausserdem wird häufig die Haftung beschränkt. Diese Umstände führen zur Frage, ob überhaupt ein vertragliches Verhältnis vorliegt, oder ob zur Durchsetzung von Haftungsansprüchen auf Institute der ausservertraglichen Haftung zurückgegriffen werden muss. So führt das Erteilen von Rat und Auskunft im Alltag zu diversen rechtlichen Fragen. Sofern die Auskunft im Rahmen einer «vorbestandenen, vertraglichen Beziehung» erteilt wird, stützen sich die möglichen Ansprüche auf diesen Vertrag.⁷⁵ Dabei gestaltet sich die Unterscheidung, ob ein unentgeltlicher Auftrag vorhanden ist, oder eben kein vertragliches Verhältnis besteht, häufig als schwierig.⁷⁶ Für diese Unterscheidung ist es massgeblich, ob es für den «Auskunftsgeber erkennbar war, dass die Antwort für den Fragenden von besonderer Bedeutung war».⁷⁷ Gemäss dem Bundesgericht darf jedoch nur mit Zurückhaltung von einem Vertragsverhältnis ausgegangen werden.⁷⁸ Sofern kein vertragliches Verhältnis angenommen wird, kann u.U. eine ausservertragliche Haftung nach Art. 41 OR, Art. 55 OR oder eine Vertrauenshaftung geprüft werden. Bei der ausservertraglichen Haftung nach Art. 41 OR und Art. 55 OR muss ein widerrechtliches Verhalten vorliegen.⁷⁹ Bei einem reinen Vermögensschaden wird hier eine Schutznormverletzung verlangt.⁸⁰ Eine solche Schutznorm kann sich aus dem geschriebenen bzw. ungeschriebenen Recht ergeben, oder aus allgemeinen Rechtsgrundsätzen abgeleitet werden.⁸¹ In Ausnahmefällen zieht das Bundesgericht hier Art. 2 ZGB als Schutznorm hinzu.⁸² Bei der Vertrauenshaftung liegt zwischen den Parteien eine rechtliche Sonderverbindung vor⁸³, welche schematisch zwischen «Delikt und Vertrag»⁸⁴ angesiedelt ist. Damit eine solche Haftung bejaht werden kann, muss der Schädiger beim Geschädigten durch sein Verhalten ein Vertrauen aufbauen und im Anschluss dieses Vertrauen treuwidrig enttäuschen.⁸⁵ Dieser Vertrauensbruch muss adäquat kausal mit dem Schaden in Zusammenhang stehen.⁸⁶ Dies wäre etwa denkbar, wenn eine Anwaltskanzlei einen Chatbot anbietet und der Klient nicht erkennen konnte, dass er nicht mit einem Menschen (Anwalt) kommuniziert. In der Praxis sind je nach Einzelfall alle Haftungsansprüche denkbar. Im nachfolgenden Abschnitt wird exemplarisch davon ausgegangen, dass zwischen dem Klienten und dem Chatbot-Anbieter (etwa einem Anwalt) ein Auftrag i.S.v. Art. 394 ff. OR vorliegt. Der Chatbot-Anbieter entwickelt die Software selbst und lässt (sofern benötigt) die künstliche Intelligenz von einem Dritten liefern. Zwischen dem Chatbot Anbieter und dem Lieferanten der KI könnte namentlich ein Lizenzvertrag oder ein Innominatvertrag bestehen.⁸⁷ Ebenso wird angenommen, dass der Chatbot-Anbieter das Training der KI selbst übernimmt.

In diesem Bereich stellen sich keine grundlegend neuen haftungsrechtlichen Fragen⁸⁸, insb. weil das System regelbasiert funktioniert und der Output einer Applikation vorhersehbar ist. Aus Sicht des Klienten erscheint es ratsam, dass er den Chatverlauf mit dem Chatbot speichert, damit er im Verfahren die fehlerhafte Auskunft des Chatbot nachweisen kann.⁸⁹ Nachfolgend wird der Auftrag im Kontext der Auskunftserteilung mittels Chatbot hinsichtlich des Umfangs und der Haupt- und Nebenpflichten des Auftragnehmers analysiert:

Der Umfang des Auftrags bestimmt sich gemäss Art. 396 Abs 1 OR nach der Vereinbarung zwischen dem Auftraggeber und dem Auftragnehmer. Sofern sich die Vereinbarung der Parteien hinsichtlich des genauen Umfangs des Auftrages nicht äussert, bestimmt sich dieser gemäss Art. 396 Abs. 1 OR nach der Natur des zu besorgenden Geschäfts.⁹⁰ In casu bestimmt sich der Umfang des Auftrages nach dem Tätigkeitsbereich des Chatbots.⁹¹

Gemäss Art. 394 Abs. 1 OR verpflichtet sich der Beauftragte bei Annahme eines Auftrages, die ihm übertragenen Geschäfte oder Dienste vertragsgemäss zu besorgen. Der Beauftragte schuldet lediglich «Tätigwerden im Hinblick auf das angestrebte Ziel, nicht aber die Verwirklichung dieses Ziels».⁹² «Der Beauftragte haftet somit für die getreue und sorgfältige Ausführung des Auftrages».⁹³ Ausserdem hat der Beauftragte diverse Nebenpflichten einzuhalten. Zu den typischen Nebenpflichten zählt eine Treuepflicht (gemäss Art. 398 Abs. 2 OR), welche gemäss der herrschenden Lehre namentlich einer Diskretions- oder Geheimhaltungspflicht⁹⁴, eine Aufklärungs- und Benachrichtigungspflicht⁹⁵, oder auch eine Rechenschafts- und Herausgabepflicht⁹⁶ umfasst. Abschliessend ist die Sorgfaltspflicht als wichtige Nebenpflicht zu nennen.⁹⁷

Nun erfolgt die konkrete Prüfung⁹⁸ der Haftung des Anbieters eines Chatbots, sofern der Chatbot eine fehlerhafte Beratungsleistung erbringt und der Klient dadurch einen vermögensmässigen Schaden erleidet. Eine «Spät- oder Nichterfüllung» liegt dann vor, wenn der Beauftragte entweder gar nicht, zu spät oder nicht im vertraglich bestimmten Umfang tätig wird.⁹⁹ Dieser Fall kann hier vermutlich gar nicht eintreten, weil sich der Umfang des Vertrages nach dem Tätigkeitsbereich des Chatbots bestimmt und der Chatbot die Anfragen in Echtzeit automatisiert beantworten kann. Daher wird nachfolgend nur die sogenannte Schlechtleistung (positive Vertragsverletzung)¹⁰⁰ geprüft. Damit der Auftragnehmer auf Grundlage von Art. 398 Abs. 2 OR i.V.m. Art. 97 ff. OR haftbar gemacht werden kann, bedarf es einer Sorgfaltspflichtverletzung, welche kausal zu einem Schaden geführt hat.¹⁰¹ Nachfolgend ist eine Prüfung von Art. 97 Abs. 1 OR gemäss folgender Schritte vorzunehmen:

Wie bereits erwähnt schuldet der Auftragnehmer keinen Erfolg, sondern ein sorgfältiges Tätigwerden. Die Vertragsverletzung besteht demnach in der Verletzung der Sorgfaltspflicht. Die Bestimmung des Sorgfaltsmassstabes erfolgt nach objektiven Kriterien.¹⁰² Die Lehre spricht hier von der Sorgfaltspflicht als aufsichtsrechtliches Tätigkeitsgebot.¹⁰³ Der Auftragnehmer hat diejenige Sorgfalt anzuwenden, welcher «ein gewissenhafter und ausreichend sachkundiger Beauftragter aufzuwenden pflegt».¹⁰⁴ Der Beauftragte hat sich an die Regeln der Berufskunst zu halten (sog. bereichs-/berufsspezifischer Sorgfaltsmassstab).¹⁰⁵ Der Auftragnehmer hat das Berufsrisiko zu tragen und kann sich gerade nicht darauf berufen, dass bei «dieser Art von Tätigkeit gewisse Fehler unvermeidlich sind».¹⁰⁶ Ferner hat der Beauftragte die Besorgung des Geschäfts abzulehnen, wenn er der gefragten Materie nicht gewachsen ist, weil er sonst ein Übernahmeverschulden zu tragen hat.¹⁰⁷ Im hier beschrieben Fall vermögen diese Kriterien jedoch nur in einem begrenzten Umfang eine Konkretisierung des Sorgfaltsmassstabes zu bewirken.¹⁰⁸ Namentlich der Sorgfaltsmassstab des «gewissenhaft und sachkundigen Beauftragten» hat sich im hier betrachteten Fall mangels Präzedenz noch nicht genügend konkretisiert. Nach der hier vertretenen Ansicht betrifft das Betreiben eines Chatbots zur Erteilung einer rechtlichen Auskunft gar zwei Sorgfaltspflichtssphären. Einerseits besteht die rechtliche Sphäre, in welcher der Anbieter dafür zu sorgen hat, dass die erteilte Auskunft aus rechtlicher Sicht seine Richtigkeit hat.¹⁰⁹ Namentlich hat der Betreiber im Umfang der Auskunftssphäre des Chatbots dafür zu sorgen, dass der Klient im Rahmen einer Auskunftserteilung einen vollständigen Überblick über die zu beantwortende Rechtsfrage erhält. Dies wäre namentlich nicht der Fall, wenn relevante Aspekte der rechtlichen Beurteilung weggelassen werden. Andererseits besteht auch eine Sorgfaltspflicht in der technischen Sphäre. Der Anbieter hat zahlreiche organisatorische Massnahmen vorzunehmen, welche die Risiken eines Schadens verringern.¹¹⁰ Der Betreiber hat bereits bei der Erstellung des Chatbots ein Qualitätssicherungsverfahren zu erstellen, welches ein effizientes Test- und Abnahmeverfahren gewährleistet.¹¹¹ Nachdem der Chatbot in Betrieb genommen worden ist, hat der Betreiber eine kontinuierliche Produktbeobachtung aufrechtzuerhalten, indem er beispielsweise eingehende Fehlermeldungen analysiert.¹¹² In der Praxis wird es dem Betreiber vermutlich nicht zumutbar sein, dass er jede eingegangene Anfrage einzeln auf deren Richtigkeit überprüft. Er sollte jedoch nachweisen können, dass er die sektorspezifischen Standards der Technologiebranche einhält. Zu diesem Zweck sind die durchgeführten Kontrollmassnahmen genau zu dokumentieren,¹¹³ dies insbesondere, weil der Betreiber die Beweislast trägt.¹¹⁴ Zudem ist im Rahmen der Prüfung einer allfälligen Sorgfaltspflichtverletzung eine Abgrenzung vorzunehmen: Sofern der Schaden auf eine fehlerhafte Auskunftserteilung des Klienten zurückzuführen ist, hat sich der Chatbot-Anbieter vermutungsweise keiner Sorgfaltspflichtverletzung schuldig gemacht. Der Betreiber hat den Klienten jedoch über die sachgerechte Verwendung des Chatbots zu informieren.¹¹⁵

Der Schaden wird mit der Differenzentheorie ermittelt¹¹⁶. Er wird bestimmt, indem «der Stand des Vermögens des Geschädigten nach dem schädigenden Ereignis» mit dem (hypothetischen) Stand des Vermögens ohne das Ereignis verglichen wird.¹¹⁷ Dabei kann es sich einerseits um einen positiven Schaden handeln (damnum emergens), welcher in direkter Weise die Aktiven des Klienten vermindert oder dessen Passiven vermehrt.¹¹⁸ Andererseits kann der Schaden auch in Form eines entgangenen Gewinns (lucrum cessans) bestehen.¹¹⁹ Die Beweislast für den Nachweis des Schadens trägt der Klient, welcher seinen erlittenen Schaden mit überwiegender Wahrscheinlichkeit nachzuweisen hat.¹²⁰ Der Klient kann das positive Vertragsinteresse verlangen, wonach er so zu stellen ist, wie wenn der Auftrag richtig erfüllt worden wäre.¹²¹ Sofern es für ihn vorteilhafter ist. kann er sich auch auf das negative Vertragsinteresse berufen, welches ihn so stellt, als wäre der Vertrag niemals geschlossen worden.¹²²

Die Vertragsverletzung muss mit dem Schaden in einer adäquat kausalen Beziehung stehen. Gemäss dem Bundesgericht gilt «ein Ereignis […] als adäquate Ursache eines Erfolges, wenn es nach dem gewöhnlichen Lauf der Dinge und nach der allgemeinen Lebenserfahrung an sich geeignet ist, einen Erfolg von der Art des eingetretenen herbeizuführen, der Eintritt des Erfolges also durch das Ereignis allgemein als begünstigt erscheint».¹²³ Aufgrund der Vielzahl von unterschiedlichen Schäden, welche durch eine fehlerhafte Beratung eines Chatbots entstehen können, kann hier die Adäquanz nicht allgemein bejaht werden. Massgeblich sind die Umstände des konkreten Einzelfalls. Generell kann lediglich gesagt werden, dass eine fehlerhafte Auskunft den Klienten durchaus in adäquat kausaler Weise dazu motivieren könnte, eine für ihn nachteilige Vermögensdisposition vorzunehmen.

Bei der Analyse des Verschuldens spricht die Lehre häufig auch von der Sorgfaltspflicht als Verhaltensmaxime.¹²⁴ Das Verhalten des Beauftragten darf «objektiv betrachtet (i.S. des Massstabes eines Durchschnittsbürgers) nicht als fahrlässig erscheinen; es darf nicht vorwerfbar sein».¹²⁵ In der Lehre herrscht jedoch Uneinigkeit hinsichtlich des Fahrlässigkeitsbegriffs. Während ein Teil der Lehre die Fahrlässigkeit an einem objektiven Massstab bemisst¹²⁶, spricht sich der andere Teil der Lehre für eine gewisse «Re-Subjektivierung» des «Verschuldens» aus.¹²⁷ Wird der letzteren Ansicht der Vorzug gegeben, dann kann es ausnahmsweise vorkommen, dass der «Beauftragte zwar objektiv eine Pflicht verletzt […] ihm dies jedoch mangels tauglicher Handlungsalternativen subjektiv nicht vorgeworfen werden» kann und daher «die Bejahung des Verschuldens mithin als unbillig» erscheint (vgl. Art. 4 ZGB).¹²⁸ Sofern ein objektivierter Verschuldensbegriff zur Anwendung gelangt, dürfte die Exkulpation bei einer Sorgfaltspflichtverletzung faktisch nicht möglich sein.¹²⁹ Verschulden bezeichnet den Umstand, dass der Auftragnehmer den Auftraggeber in pflichtwidriger Weise schädigt, obwohl ersterer in der Lage gewesen wäre, den Schaden vorauszusehen und abzuwenden. Dies bedeutet, dass die Schadensverursachung für den Beauftragten zumindest erkennbar gewesen sein muss.¹³⁰ Das Verschulden kann in einer vorsätzlichen oder fahrlässigen Pflichtverletzung geschehen.¹³¹ Der Beauftragte handelt vorsätzlich, wenn er einen bestimmten Erfolg mit Wissen und Willen herbeiführt.¹³² Bei der Fahrlässigkeit wird zwischen einer schweren, mittleren und leichten Fahrlässigkeit unterschieden. Eine schwere Fahrlässigkeit liegt vor, wenn der Auftragnehmer «elementare Vorsichtsgebote ausser Acht lässt, die jeder verständige Mensch in der gleichen Lage und unter den gleichen Umständen befolgt hätte», wobei das Handeln des Schädigers schlicht als unverständlich erscheint.¹³³ Die mittlere Fahrlässigkeit liegt vor, wenn der Auftragnehmer «den Durchschnittsanforderungen nicht gerecht wird».¹³⁴ Die leichte Fahrlässigkeit stellt «eine geringe Abweichung von der erforderlichen Sorgfalt» dar, welche jedem passieren kann.¹³⁵ In der Praxis dürfte, sofern eine Sorgfaltspflichtverletzung vorliegt, häufig auch ein Verschulden festzustellen sein. Ausserdem wird gemäss Art. 97 Abs. 1 OR ein Verschulden vermutet, was eine Beweislastumkehr bedeutet.

Unter der Annahme, dass zwischen dem Chatbot-Betreiber und dem Klienten ein Auftrag besteht, kann davon ausgegangen werden, dass die Haftung des Betreibers zumindest möglich erscheint. Die Bewertung wird im hier beschrieben Fall vor allem dadurch erschwert, dass der zugrundeliegende Sorgfaltsmassstab mangels Präzedenz nicht hinreichend konkretisiert ist.

Gemäss Art. 97 i.V.m Art. 99 Abs. 1 OR haftet der Schuldner (in casu der Chatbot-Betreiber) für jedes Verschulden. Hierbei handelt es sich jedoch um eine dispositive Regelung, welche namentlich durch die Abgabe von AGB eingeschränkt werden kann.¹³⁶ Einerseits besteht die Möglichkeit, die Haftung für leichtes Verschulden auszuschliessen.¹³⁷ Bei dieser Art der Haftungsbeschränkung ist zu beachten, dass sie bei vorsätzlichem oder grob fahrlässigem Verhalten keine Anwendung finden kann.¹³⁸ Andererseits kann die Haftung beschränkt werden, indem «die Folgen der Vertragsverletzung begrenzt oder ausgeschlossen werden».¹³⁹ Eine dritte, indirekte Möglichkeit der Haftungsfreizeichnung würde darin bestehen, dass die Pflichten des Auftragnehmers im zugrundeliegenden Vertrag besonders eng umschrieben werden.¹⁴⁰ Diese Form erscheint hier nicht relevant, weil sich der Umfang des Auftrages nach dem hier geprüften Beispiel direkt aus dem Tätigkeitsbereich des Chatbots ableiten. Damit die AGB im Vertrag Geltung erlangen, müssen sie in das zugrundeliegende Vertragswerk einbezogen werden (sog. Einbezugskontrolle).¹⁴¹ Dies bedeutet im Umkehrschluss, dass diese Information vermutlich durch den Chatbot direkt herausgegeben werden müssen, oder dass der Chatbot zumindest auf die vertraglichen Bestimmungen verweist. Ferner ist zu prüfen, ob die Parteien nicht eine anderslautende Individualvereinbarung getroffen haben (Geltungskontrolle).¹⁴² Eine Vertragsklausel der AGB kommt im Zweifelsfall nicht zur Anwendung, wenn der Vertragspartner vernünftigerweise nicht mit einer solchen Klausel rechnen musste (Ungewöhnlichkeitsregel im Rahmen der Geltungskontrolle).¹⁴³ Der Klient muss zudem die Tragweite der Haftungsfreizeichnung erfassen können.¹⁴⁴ Ausserdem wird eine unklar formulierte AGB-Klausel im Zweifelsfall zuungunsten des Verfassers ausgelegt (Unklarheitenregel im Rahmen der Auslegungskontrolle).¹⁴⁵ Nach der konstanten Rechtsprechung des Bundesgerichts hat ein Gericht jedoch keine Möglichkeit, die AGB inhaltlich zu prüfen (offene Inhaltskontrolle),¹⁴⁶ dies obwohl die herrschende Lehre seit längerer Zeit eine offene Inhaltskontrolle entlang von Art. 19 und Art. 20 Abs. 1 OR (öffentliche Ordnung und Sittenwidrigkeit) fordert.¹⁴⁷ Eine Inhaltskontrolle ist ausnahmsweise möglich, wenn der Anwendungsbereich von Art. 8 UWG eröffnet ist, d.h. die AGB im Rahmen eines Konsumentenvertrages¹⁴⁸ ein ungerechtfertigtes und erhebliches Missverhältnis bewirken.¹⁴⁹

Abschliessend ist noch eine wichtige Differenzierung vorzunehmen. Wie bereits festgestellt, erlaubt das Gesetz eine Beschränkung der Haftung im Bereich des Verschuldens. Eine Beschränkung des Sorgfaltsmassstabs ist nur insofern möglich, als dass hier die Risiken beschränkt werden können, welche durch den Auftragnehmer nicht beeinflussbar sind.¹⁵⁰ Nicht möglich ist eine Beschränkung der «berufs- oder sachspezifischen Sorgfalt».¹⁵¹ Insofern ist eine Haftungsbeschränkung zwar möglich, wobei es fraglich erscheint, ob sich der Chatbot-Anbieter mittels solcher Klauseln exkulpieren kann. Es müsste vermutlich mit einem hohen Sorgfaltsmassstab gerechnet werden, sofern zwischen dem Chatbot-Betreiber und dem Klienten tatsächlich ein Auftragsverhältnis bejaht wird. Erschwerend kommt hinzu, dass der Nachweis eines nur leichten oder mittelschweren Verschuldens in der Praxis wohl nicht leicht erbracht werden kann.

Grundsätzlich muss erwähnt werden, dass die hier gestellte Frage der Haftung für den Chatbot Typ 2 nicht abschliessend beurteilt werden kann, weil es in diesem Bereich in doppelter Hinsicht an Präzedenz mangelt. Einerseits hat sich noch kein Gericht mit der Frage befassen müssen, wer die Haftung zu tragen hat, wenn ein Chatbot eine falsche rechtliche Beurteilung abgibt.¹⁵² Andererseits existieren, soweit ersichtlich, noch keine gerichtlichen Entscheide zu Schäden, welche durch autonome Systeme verursacht wurden.¹⁵³ Eine besondere Problematik besteht insbesondere dann, wenn der Schaden auf die eigendynamische Weiterentwicklung des Systems zurückzuführen ist.¹⁵⁴ Diese Konstellation von Schäden führt zu zwei Unsicherheitsbereichen: Einerseits zeichnen sich KI-Anwendungen durch eine Komplexität aus¹⁵⁵, welche die Identifikation der Fehlerquelle erschwert oder gar verunmöglicht.¹⁵⁶ Denkbar wäre, dass die KI an sich fehlerbehaftet ist, namentlich weil sie die vertraglich versprochenen Leistungen gar nicht zu erbringen vermag. Ferner könnte dem Betreiber beim Training der KI fehlerhafte Daten verwendet haben. Zudem wäre es möglich, dass sich die KI in einer unvorhersehbaren Weise weiterentwickelt und darauf basierend ein Schaden entsteht. Die zweite Problematik besteht in der Zuordnung der Handlungen der KI an sich. Ein KI-System kann selbst nicht haftbar gemacht werden, da es über keine Rechtspersönlichkeit verfügt.¹⁵⁷ Damit die Rechtspersönlichkeit bejaht werden könnte, bedarf es der Rechtsfähigkeit gemäss Art. 11 ZGB, welche einer KI bis zum gegenwärtigen Zeitpunkte nicht zugesprochen wurde.¹⁵⁸ Dies bedeutet im hier betrachteten Fall im Umkehrschluss, dass eine Zurechnungsnorm benötigt werden würde, welche die schädigende Handlung der KI dem Chatbot-Betreiber zurechnet. Nachfolgend werden einige Vorschläge von möglichen Zurechnungsnormen aufgegriffen.¹⁵⁹ In der Lehre wird zur Zeit kontrovers diskutiert, ob eine KI unter die Hilfspersonenhaftung gemäss Art. 101 OR, resp. Geschäftsherrenhaftung nach Art. 55 OR subsumiert werden könnte.¹⁶⁰ Eine direkte Anwendung von Art. 101 OR auf künstlich intelligente Systeme würde jedoch von der herrschenden Lehre vermutlich abgelehnt werden, insbesondere weil unter den Begriff der Hilfsperson nur eine natürliche oder juristische rechtsfähige Person zu subsumieren ist.¹⁶¹ Es gibt jedoch Lehrmeinungen, welche die analoge Anwendung von Art. 101 OR auf KI erlauben möchten,¹⁶² während andere Autoren einen solchen Analogieschluss eher ablehnen.¹⁶³ Die analoge Anwendung von Art. 101 OR erscheint nach der hier vertretenen Ansicht eine sachgerechte Lösung darzustellen.¹⁶⁴ Es leuchtet ein, dass ein Geschäftsherr, welcher seinen Tätigkeitsbereich durch Beizug einer KI erweitert, auch die dazu gehörigen Risiken tragen soll.¹⁶⁵ Es wäre vermutlich wenig überzeugend, den Geschäftsherrn für den Schaden verantwortlich zu machen, welcher durch einen hinzugezogenen menschlichen Gehilfen entsteht, gleichzeitig aber von einer Haftungszurechnung abzusehen, wenn er einen digitalen Gehilfen einsetzt.¹⁶⁶ Gleichzeitig könnten die durch die KI verursachten Risiken dadurch abgemildert werden, indem der Geschäftsherr ein erhöhtes Mass an Sorgfalt zu tragen hat.¹⁶⁷ Ein Teil der Lehre spricht sich auch für die Schaffung einer Gefährdungshaftung aus.¹⁶⁸ Bei einer Gefährdungshaftung handelt es sich um eine spezielle Form der Kausalhaftung, welche sich alleine im Bestehen einer Gefahr begründet und kein Verschulden voraussetzt.¹⁶⁹ Dabei herrscht in der Lehre Uneinigkeit, ob eine KI überhaupt über die benötigte Gefahrenintensität und ein erforderliches inhärentes Schadenspotential verfügt.¹⁷⁰ Nach der hier vertretenen Ansicht wäre dies u.U. eine Lösung, wobei zurzeit das Schweizer Recht noch keine allgemeine Gefährdungshaftung kennt.¹⁷¹ Dies erscheint insofern problematisch, als dass ein Schaden durch eine KI bereits zum gegebenen Zeitpunkt auftreten könnte, wenngleich eine geeignete Haftungsnorm dieser Art im Moment nicht aufrufbar wäre. Daher eignet sich dieser Lösungsansatz bei gegenwärtig auftretenden Schäden nicht zur Problemlösung.

Sofern die Haftungszuordnung nach Art. 101 Abs. 1 OR erfolgen kann, wäre eine parallele Anwendung des Prüfschemas aus Kap. 5.4 denkbar. Es sind jedoch gewisse Ergänzungen nötig, auf welche nachfolgend eingegangen wird.

Die in Kap. 5.4.1 getätigte Aussagen haben auch hier Geltung, werden jedoch um Sorgfaltspflichten im Bereich des Umgangs mit der KI erweitert. Hierzu könnten die im Haftpflichtrecht geltenden drei Curare als Massstab herangezogen werden, wonach den Betreiber hinsichtlich der KI eine cura in eligendo (Sorgfalt in der Auswahl), eine cura in instruendo (Sorgfalt im Instruieren) und einer cura in custodiendo (Sorgfalt bei der Überwachung) zu wahren hat.¹⁷² Mangels Präzedenz fällt es schwer, die hier genannten Pflichten weiter zu konkretisieren. Unter die Sorgfaltspflicht der Auswahl könnte namentlich die Pflicht subsumiert werden, eine geeignete KI als Grundlage für die Applikation zu wählen. Im Rahmen der Sorgfaltspflicht im Instruieren hat der Anbieter der KI genügend Testfälle zur Verfügung zu stellen, sodass eine hinreichend grosse Genauigkeit¹⁷³ der Ergebnisse erreicht werden kann. Die Sorgfaltspflicht der Überwachung könnte namentlich darin bestehen, dass der Anbieter regelmässig Stichproben des Outputs vorzunehmen hat. Der Betreiber hat diese Tätigkeiten genau zu dokumentieren, und trägt im Schadensfall die Beweislast (vgl. Art. 97 Abs. 1 OR). Ein Verschulden besteht gemäss den Ausführungen aus Kap. 5.4.4 nur dann, wenn der Schaden für den Auftragnehmer voraussehbar war und er diesen hätte abwenden können. Dies bedeutet im Umkehrschluss, dass er vermutlich für Fehler in der automatisierten Beratung nicht haftbar gemacht werden kann, sofern er die nötige Sorgfaltspflicht eingehalten hat und die Gefahr einer Schädigung für ihn nicht erkennbar war.

Hier wird auf die Ausführungen in Kap. 5.4.2 und 5.4.3 verwiesen.

Auch an dieser Stelle wird auf die Ausführungen von Kap. 5.4.6 verweisen. Zusätzlich muss jedoch die Frage gestellt werden, ob die Haftung der Hilfsperson (in casu der KI) i.S.v. Art. 101 Abs. 2 OR in diesem Fall gänzlich hinwegbedingt werden kann.¹⁷⁴ Hier wird die Ansicht vertreten, dass dies vermutlich nicht möglich ist, weil die KI zugleich die Sorgfaltspflicht des Auftragnehmers beschlägt und in der Folge eine Haftungsbeschränkung des durch die KI verursachten Schadens nur für leichtes und mittleres Verschulden des Geschäftsherrn (analog von Art. 100 Abs. 1 OR) möglich sein dürfte.¹⁷⁵

Diese Frage lässt sich vermutlich nicht in allgemeiner Weise beantworten. Insbesondere weil zwischen dem KI-Anbieter und dem Chatbot-Anbieter sehr unterschiedliche Verträge denkbar sind.¹⁷⁶ Zentral sind hier die zugrundeliegenden vertraglichen Vereinbarungen.¹⁷⁷ In der Praxis werden die KI-Anbieter jedoch weitreichende Haftungsbeschränkungen geltend machen. Ferner ist die genaue Funktionsweise einer KI teilweise gänzlich unbekannt,¹⁷⁸ was den Nachweis eines systematischen Fehlers in der KI noch einmal zusätzlich erschwert.

Wie bereits in Kap. 6 erwähnt, vermögen die vorhandenen haftungsrechtlichen Bestimmungen nach der hier vertretenen Ansicht die Fragen bis und mit einem Chatbot Typ 2 zu beantworten. Bei zunehmendem Fortschritt der künstlichen Intelligenz stellt sich jedoch ab einem gewissen Grade die Frage, ob die KI überhaupt noch unter die Hilfsperson i.S.v. Art. 101 Abs.1 OR zu subsumieren ist. Nebst einer Gefährdungshaftung, welche bereits in Kap. 6 besprochen wurde, schlägt ein Teil der Lehre die Schaffung einer sogenannten E-Person vor, welche mit einer Haftpflichtversicherung auszustatten wäre.¹⁷⁹ Auch hier herrscht Uneinigkeit in der Lehre. Gegner machten u.a. geltend, dass eine solche Lösung zu Fehlanreizen führen könnte, da dem Betreiber das Interesse daran fehle, die KI und ihre Ergebnisse zu kontrollieren und er weniger Massnahmen zu Schadensminimierung vornehmen würde.¹⁸⁰ Ausserdem bestehe laut Scheufen ein falsches Verständnis einer KI, wenn man dieser eine rechtliche Persönlichkeit zuordnen möchte.¹⁸¹ Gemäss seiner Ansicht entstehen die Schäden nicht durch ein vorsätzliches oder fahrlässiges Verhalten einer absolut autonom handelnden KI, sondern lassen vielmehr eine menschliche Fehlleistung, namentlich die Auswahl schlechter Daten oder einer ungeeigneten Zielfunktion, erkennen.¹⁸² Befürworter argumentieren, dass der Staat durch die Schaffung einer E-Person verbesserte Steuerungsmöglichkeit hätte, indem er namentlich die Pflicht einer Registerführung oder einer Genehmigungspflicht einführen könnte.¹⁸³ Schlussendlich kann die Frage, ob die Schaffung einer E-Person sinnvoll erscheint, zum gegenwärtigen Zeitpunkt nicht abschliessend beantwortet werden, gerade weil die künftigen Fortschritte im Bereich der Systeme mit künstlicher Intelligenz nicht präzise vorausgesagt werden können.

Bei der Analyse der Fragestellung «Inwiefern bestehen für das Anbieten einer automatisierten Rechts-beratung mittels Chatbot haftungsrechtliche Risiken?» besteht insofern die Problematik, als dass die Lehre sich bis zum gegenwärtigen Zeitpunkt noch nicht mit einem Fall aus der Praxis zu beschäftigen hatte. Es fehlen gerichtliche Entscheide sowohl zur Frage, unter welchen Umständen ein Chatbot-Anbieter für seine fehlerhaften Auskünfte haftbar gemacht werden kann, als auch, wie Schäden zu bewerten sind, welche aufgrund einer eigendynamischen Entwicklung von KI-Systemen entstanden sind. Diese Arbeit unternimmt einen ersten Versuch der haftungsrechtlichen Einordnung. Dabei besteht die erste Schwierigkeit darin, dass zugrundeliegende (ausser)vertragliche Verhältnis zwischen dem Chatbot-Betreiber und dem Klienten zu identifizieren. Nach der hier vertretenen Ansicht könnte der Klient in der Praxis einen durch fehlerhafte Beratungsdienstleistungen entstandenen Schaden je nach den Umständen des Einzelfalls auf Basis einer Vertrauenshaftung, einer Deliktshaftung (nach Art. 41 ff. OR) oder des Auftragsrechts (Art. 394 ff. OR) geltend machen. Exemplarisch wurde hier die Prüfung nach Auftragsrecht durchgeführt. Im Bereich der regelbasierten Chatbots ist eine Haftung gemäss der durchgeführten Analyse zumindest denkbar. Bei diesen Systemen besteht der Vorteil, dass der Output vorhersehbar ist, wodurch sich vermutlich der hier veranschlagte strenge Massstab für die Sorgfaltspflichten rechtfertigt. Nach der hier vertretenen Ansicht beschlägt die Sorgfaltspflicht des Chatbot-Anbieters zugleich zwei Sphären, nämlich die rechtliche und technische. Für den Betreiber eines Chatbots kommt erschwerend hinzu, dass er im Rahmen einer Haftungsbeschränkung zwar die Haftung für leichtes Verschulden hinwegbedingen kann, ihm jedoch die Herabsetzung des geforderten Sorgfaltsmassstabes nicht möglich sein dürfte. Im Rahmen der künstlich intelligenten Systeme tritt ein weiterer zentraler Faktor hinzu. Es können Schäden entstehen, welche auf eine eigendynamische Entwicklung des Chatbots zurückzuführen sind. Hier besteht die Problematik, dass in der Lehre Uneinigkeit darüber besteht, welche Zurechnungsnorm für Handlungen der KI angewendet werden soll. In dieser Arbeit wird die Ansicht vertreten, dass sich im betrachteten Fall die Hilfspersonenhaftung gemäss Art. 101 OR am besten als Zurechnungsnorm eignet. Sofern die Zurechnung der Handlungen eines künstlich intelligenten Systems mittels der Hilfspersonenhaftung bejaht wird, ist hier eine Haftung des Chatbot-Betreibers ebenfalls denkbar. Schwierigkeiten bereitet auch die Festlegung des geforderten Sorgfaltsmassstab. Denkbar wäre, dass nebst den bereits erwähnten Faktoren (bei den regelbasierten Systemen) im Hinblick auf die KI drei weitere Pflichten hinzukommen könnten. Einerseits hat der Anbieter die Pflicht, eine geeignete KI auszuwählen (Cura in eligendo), diese mit genügenden Daten zu trainieren (Cura in instudiendo) und schliesslich auch währen des Betriebs eine geeignete Überwachung des Systems sicherzustellen (Cura in custodiendo). Zum Schluss wird ein Ausblick in die Zukunft gewagt. Die Lehre diskutiert im Kontext immer intelligenter werdenden Systeme auch die Frage, ob diesen eine eigene Rechtspersönlichkeit (E-Person) zugesprochen werden, oder ob Betreiber von künstlich intelligenten Systemen einer Gefährdungshaftung unterstellt werden sollen. Nach der hier vertretenen Ansicht rechtfertigen sich solche Massnahmen zum gegenwärtigen Zeitpunkt jedoch noch nicht.

Michael Krähenbühl, B.A. Student HSG in Rechtswissenschaft mit Wirtschaftswissenschaften, Universität St. Gallen.