Jusletter IT

Hersteller künstlicher Intelligenz müssen sich mit der Frage auseinandersetzen, wann und in welchem Ausmaß sie für Schäden haften, die durch «Handlungen» der AI verursacht wurden. Denken wir beispielhaft an selbstfahrende Autos, Handelsalgorithmen, komplexe medizinische Systeme, Smarthome und Drohnen, deren Fehlverhalten enormen Schaden verursachen könnte, aber auch an Einfacheres wie Autostaubsauger, die ein Haustier verletzen könnten.

Sind sämtliche durch die AI verursachten Schäden dem Hersteller zurechenbar bzw. inwieweit hat der Hersteller überhaupt Kontrolle über die Entscheidungen/Handlungen der AI? Diese Fragen versuchen wir nach den geltenden österreichischen Vorschriften zu lösen und werden dabei herausfinden, dass diese nicht immer ausreichend sind, um Lösungen für die modernen technologischen Errungenschaften anzubieten. In diesem Kapitel wird lediglich ein Teilaspekt und zwar die Produkthaftung nach dem Produkthaftungsgesetz (PHG) behandelt. Auf die Haftung gemäß ABGB kann hier aus Platzgründen nicht eingegangen werden.

Die Haftung nach dem PHG ist verschuldensunabhängig, darf vertraglich nicht ausgeschlossen werden und stellt für den Hersteller ein großes Risiko dar. Der Hersteller eines Endprodukts (zB. Autostaubsauger) ist für Schäden von zugekauften Teilen verantwortlich, wenn diese in das Endprodukt zum Zeitpunkt dessen Inverkehrbringens eingebaut wurden und die Software sich unmittelbar auf das Funktionieren des Endprodukts auswirkt.¹ Doch inwieweit haftet der Teilhersteller für die eingebaute Software? Der Softwarehersteller haftet nach dem PHG nur dann, wenn seine Software die Produkteigenschaften aufweist.² Das PHG ist gemäß seinem Wortlaut nur auf körperliche bewegliche Sachen anzuwenden und Software ist im physikalischen Sinn eine unkörperliche Sache. Nach derzeit unbestrittener Meinung ist die Haftbarkeit nach dem PHG jedenfalls dann gegeben, wenn die Software auf einem Datenträger geliefert wurde.³ Ansonsten gibt es mehrere Lehrmeinungen, die die Frage der Körperlichkeit verschiedentlich behandeln. Eine dieser Ansichten geht davon aus, dass auch für die auf den Datenträger verkörperten Information gehaftet werden muss und dass es nicht darauf aufkommen kann, ob die Software auf einem körperlichen Datenträger gespeichert ist, ob diese digital übermittelt wurde oder auf der Cloud gespeichert wird.⁴ Es wird auch argumentiert, dass mit dem Überspielen der Software auf eine körperliche Sache (Hardware) das Körperlichkeitskriterium automatisch erfüllt wird.⁵

Auch wenn wir die grundsätzliche Haftung nach dem PHG bejahen würden, wird nur für Fehler gehaftet, die durch den Geschädigten nachgewiesen werden müssen.⁶ Wie allgemein bekannt ist, existiert keine fehlerfreie Software. Nach dem PHG liegt Fehlerhaftigkeit vor, wenn ein Produkt zum Zeitpunkt seines Inverkehrbringens nicht die Sicherheit bietet, die unter Berücksichtigung aller Umstände zu erwarten ist (§ 5 PHG). Der OGH judiziert, dass dabei die berechtigten Sicherheitserwartungen ausschlaggebend sind. Ebenfalls zu prüfen ist, ob das geübte Benutzerverhalten für den Hersteller vorhersehbar war, denn für unvorhersehbare oder geradezu absurde Gebrauchsarten hat der Hersteller nicht einzustehen.⁷ Der Softwarehersteller kann sich von der Haftung befreien, wenn er nachweisen kann, dass die Eigenschaften des Produkts nach dem Stand der Wissenschaft und Technik, dies ist der höchste existierende Stand⁸ zu dem Zeitpunkt, zu dem es der in Anspruch Genommene in den Verkehr gebracht hat, nicht als Fehler erkannt werden konnten (§ 8 PHG). In der Praxis wird ein solcher Beweis äußerst schwierig sein und wird durch einen Sachverständigen entschieden werden.

Doch was wird passieren, wenn eine fehlerfreie künstliche Intelligenz einen Schaden verursacht oder eine AI so fortgeschritten ist, dass sie Entscheidungen treffen kann, die für den Hersteller nicht mehr erkennbar/vorhersehbar sind? Fortgeschrittene selbstlernende Programme existieren bereits jetzt, zum Beispiel AlphaGo, ein Programm der Google-Tochter Deep Mind, der den europäischen Meister im Go-Spiel mit 5:0 geschlagen hat, bzw. sein Nachfolger AlphaGo Zero, der den Go Spiel nur durch Selbstspielen gelernt hat und seine vorherige Version AlphaGo konsequent mit 100:0 schlagen konnte.⁹ Dies ist durch künstliche neuronale Netze, die ähnlich wie das menschliche Gehirn funktionieren, möglich, die mit Hilfe von Lernalgorithmen (Deep Learning) selbst lernen.¹⁰ In einem solchen Fall könnte argumentiert werden, dass die Haftung nach dem aktuellen PHG wegen der fehlenden Vorhersehbarkeit der Entscheidungen aufgrund des Selbstlernmechanismus wohl nicht anwendbar sein wird.¹¹ Vielmehr müssen für solche Situationen neue Regelungen erst geschaffen werden. Aufgrund dieser Gedanken forderten die Abgeordneten des EU-Parlamentes im Februar 2017 die Kommission auf, Regeln für künstliche Intelligenz zu entwerfen, um EU-weite Klarheit und Sicherheitsstandards zu schaffen. Unter anderen soll auch die Frage eines speziellen rechtlichen Status für die AI überlegt werden.¹² Das EU-Parlament empfiehlt entweder eine verschuldensunabhängige Haftung des Herstellers oder den Ansatz eines Risikomanagements, wonach eine Person, die die Risiken minimieren und die negativen Auswirkungen bewältigen kann (also unter gewissen Umständen auch der Anwender), haftbar wird.¹³ Die Haftung sollte den Grad der Autonomie des Roboters berücksichtigen und in Verbindung mit einer Pflichtversicherung und einem Fonds, der nicht-versicherte Schäden abdecken soll, stehen.¹⁴

Auch wenn manche Vorschläge des EU-Parlaments noch unausgereift erscheinen (insbesondere die Einführung eines einheitlichen Haftungsrechts auf sämtliche Formen «intelligenter Roboter»¹⁵), ist die Gedanke der Regulierung des Haftungsrechts zu begrüßen, weil sie unzweifelhaft für mehr Rechtsicherheit in der stets wachsenden Branche sorgen wird.

Wenn der Rasenmäher-Roboter durch einen Fehler die Abgrenzung nicht einhält und in Nachbars Garten den Hamster mäht, stellt sich auch die Frage, inwieweit die Anwender von AI für Schäden haften. Ein praktisches Beispiel ist das Unternehmen, das für sein Kundenservice einen Chatbot auf Basis von Watson¹⁶ anbietet, der mit jeder neuen Frage und Antwort lernt, indem er diese analysiert und bewertet. In diesem Kapitel wird primär auf die Frage eingegangen, mit welchen bestehenden Regelungen Analogien gezogen werden können.

Eine lernende AI erhält die Informationen, auf deren Basis es die Entscheidungen trifft, entweder durch Dateneingabe des Anwenders oder durch äußere Einflüsse wie zB die Interaktion mit Dritten. Geht man davon aus, dass selbst Hersteller oft nicht wissen, wie es konkret zu einer Entscheidung der AI kam, kann dies von Anwendern noch viel weniger erwartet werden.

Zuerst muss die Frage geprüft werden, ob das Verhalten des Anwenders kausal für einen Schaden ist. Diese Frage ist klar zu bejahen, wenn der Anwender diesen zB durch falsche Informationseingabe verursacht hat. Je komplexer eine AI jedoch ist und je mehr diese gelernt hat, kann es zu dem Fall kommen, dass nicht klar ist, ob ein Fehler durch den Hersteller, den Anwender oder durch Informationen von außen verursacht wurde. In diesem Fall wäre die AI selbst, als lernendes und denkendes System, Verursacher des Schadens.

Oder muss sich der Anwender das Verhalten seiner AI zurechnen lassen? Man könnte argumentieren, dass die Nutzung einer selbstlernenden AI an sich eine gefährliche Handlung ist. Aus Ermangelung bestehender Regelungen werden weiters Möglichkeiten aufgezeigt, wie die Anwenderhaftung einer AI geregelt werden könnte.

Außerhalb des Vertragsrechts wäre eine Möglichkeit, die AI als Gehilfen im Sinne des § 1315 ABGB zu beurteilen. Ist eine AI beispielsweise noch nicht ausgereift oder hat diese erst wenige Informationen, auf die ihre Entscheidungen basieren, könnte diese ein untüchtiger Gehilfe sein. Bei der Beurteilung muss jedoch auf das konkret fehlerhafte Verhalten der Gehilfen-AI im Zusammenhang mit ihrer Tätigkeit abgestellt werden.¹⁷ In der Praxis wird die größte Herausforderung dieser Analogie sein, die Frage zu beantworten, wie komplex und potentiell gefährlich eine AI sein muss, um diese Haftungsverschärfung zu rechtfertigen.

Bejaht man die Verursachung des Schadens, kann die Rechtswidrigkeit beispielsweise im Eingriff in absolute Rechte bestehen. Ob das Verhalten rechtswidrig war, muss für den Einzelfall beurteilt werden. Es könnten auch hier gesetzliche Vorkehrungen getroffen werden, die den Anwender beispielsweise zu einer regelmäßigen Wartung der AI – ähnlich wie § 57a Kraftfahrgesetz (KFG) – oder zum Abschluss einer Haftpflichtversicherung¹⁸ verpflichten.

Die Antwort auf die Frage, ob eine AI jemals ein Verschulden treffen kann, liegt noch weit in der Zukunft. Es wird bis dahin oft am Hersteller liegen, ein «moralisches» Entscheidungsregulativ für Zweifelsfragen einzuführen. Bei selbstfahrenden Autos ist diese Diskussion bereits im Gange, als ein Daimler-Manager sagte, dass im Zweifel der Insasse seines Autos geschützt wird.¹⁹

Geht man jedoch davon aus, dass es nicht für jeden Fall eine herstellerseitige Zweifelsregel gibt und AI noch kein Verschulden angelastet wird, muss eine verschuldensunabhängige Haftung des Anwenders geprüft werden. Wie bereits oben ausgeführt, ist dies auch der Vorschlag des EU-Parlaments.²⁰ Eine Gefährdungshaftung für den IT-Einsatz ist derzeit in § 89e GOG geregelt, der jedoch nur Anwendung auf die Justiz findet.²¹ Dieser trägt bereits den schwer nachvollziehbaren Abläufen und den mit der Verwendung von Computer einhergehenden Risiken Rechnung, wobei eine Anwendung auf Private nur von einem Teil der Lehre vertreten wird.²²

Eine weitere Möglichkeit wäre die Normierung einer verschuldensunabhängigen Haftung für AI, ähnlich der Gefährdungshaftung des § 1 EKHG oder der Tierhalterhaftung des § 1320 ABGB.²³ Durch die Innovationen im Zusammenhang mit selbstfahrenden Autos wird eine Haftung von Fehlern einer AI sehr bald Thema von Rechtsprechung und Gesetzgebung werden.²⁴ Vergleicht man selbstlernende AI mit Tieren, kann die Haftung ähnlich einer Gefährdungshaftung jedoch mit einer objektiven Sorgfaltskomponente des Halters (idF Anwenders) konzipiert werden.²⁵ Sie würde dann auf die technische Verwahrung und Beaufsichtigung (durch Updates, Logfiles, usw) des Anwenders abstellen. Ähnlich wie bei einem Tier kann man einer AI viel beibringen und sie in gewissem Maß auch unter Kontrolle haben, aber es gibt ein unberechenbares Element («typische AI-Gefahren»), dem man Rechnung tragen muss.

Für die Praxis bedeutet dies: Je schwerer die Entscheidungen der AI nachvollziehbar sind, umso schwerer kann eine Haftung von Anwender oder Hersteller argumentiert werden. Für Fälle, in denen die Verursachung nicht nachvollziehbar ist, müssen Gerichte und Gesetzgeber passende Regelungen finden, um dem Stand der Technik, der potentiellen Gefährlichkeit sowie der Innovation Rechnung zu tragen. Bis dahin wird man bei der Nutzung einer AI weiterhin menschlicher Kontrolle bedürfen. Ähnlich bei einem Rechtsanwaltsanwärter: Je erfahrener dieser ist, umso weniger Kontrolle ist durch den Anwalt erforderlich.