Jusletter IT

Seit geraumer Zeit werden im Bereich Tunnelsicherheit zunehmend innovative Ansätze zur Gefahrendetektion und somit auch für das Sicherheitsmanagement in den Tunnelanlagen genutzt.¹ Vor allem in den letzten Jahren hat sich gezeigt, dass das Potential der technologischen Entwicklungen für die Tunnelleitzentralen,² welche Tunnelanlagen in Österreich und Deutschland zentral überwachen, noch nicht vollumfänglich genutzt werden kann. Die dort agierenden Tunneloperator:innen sind einem zunehmenden Handlungs- und Leistungsdruck ausgesetzt und sprechen sich vermehrt für technische Hilfssysteme aus, die zu einer signifikanten Entlastung des überwiegend sinnesbasierten Monitoring beitragen sollen.

Im Rahmen des bilateralen FFG-KIRAS-Forschungsprojektes „Künstliche Intelligenz zur Verbesserung der Sicherheit von Tunneln und Tunnelleitzentralen“ (kurz: KITT) soll vor diesem Hintergrund ein System konzipiert werden, das basierend auf einer Informationsauswertung³ der zukünftig verfügbaren Daten eines vernetzten Verkehrssystems (Cooperative Intelligent Transport System, C-ITS) durch Künstliche Intelligenz (KI) potenzielle Ereignisszenarien in den Tunnelanlagen detektieren kann und den Tunneloperator:innen somit gezielte Handlungsweisungen zur Vermeidung von Unfällen vorschlagen soll.

Die endgültige Letztentscheidung soll dennoch weiterhin bei den Tunneloperator:innen verbleiben, weshalb durch das KITT-System keine automatisierten Entscheidungen mit nachfolgend automatisiert eingeleiteten Sicherheitsmaßnahmen (Tunnelschließung, etc.) zu erwarten sind. Zusätzlich hat dies eine bessere Informationslage zur Folge, da durch die C-ITS-Daten bekannt ist, welche Fahrzeuge sich (u.a.) mit alternativen Antrieben, als Gefahrenguttransporte oder ganz grundsätzlich wie viele Personen sich im Tunnel befinden, um vorab die Einsatzkräfte mit diesen Informationen beim Beginn des Einsatzes unterstützen zu können.

Vor dem Einsatz eines KI-Systems im Bereich des Tunnelsicherheitsmanagements sind im Vorfeld haftungsrechtliche Aspekte zu analysieren. Dabei kann nicht nur auf die geltende Rechtslage Bezug genommen, sondern muss auch aufgrund der brisanten Europäischen Entwicklungen der letzten Monate der Rechtsrahmen de lege ferenda berücksichtigt werden.

Auf unionsrechtlicher Ebene soll deshalb durch die Modernisierung des Europäischen Haftungsrechts dazu beigetragen werden, dass Verbraucher einerseits künftig mehr Vertrauen in KI-Technologien haben und andererseits Unternehmen das Innovationspotential von KI im breiten Maße ausschöpfen können. Offene Rechtsfragen sollen deshalb mit den neuen regulatorischen Grundlagen geklärt werden und als Eckpfeiler für den digitalen Wandel beitragen. Das Herzstück des Europäischen Modernisierungsvorhabens beschäftigt sich mit den haftungsbezogenen Problemstellungen mit von KI verursachten Schäden.

In diesem Beitrag wird auf die zu erwartenden Änderungen im Bereich des Haftungsrechts Bezug genommen (insbesondere auch die Überarbeitung der Produkthaftungsrichtlinie⁴ und die Einführung einer eigenen KI-Haftungsrichtlinie⁵) und dargestellt, welche Änderungen sich de lege ferenda für Digitalisierungsprojekte aus diesen Entwicklungen ergeben.

Wie einleitend erwähnt, werden im Rahmen von KITT die Potenziale des Einsatzes von künstlicher Intelligenz in Verbindung mit Aspekten des vernetzten Fahrens (auf Basis der C2X-Kommunikation) für Straßentunnel untersucht. Diese Art der Kommunikation (car to everything) in C-ITS beschreibt jegliche Kommunikation zwischen Fahrzeugen und sowohl anderen Fahrzeugen als auch der Infrastruktur selbst.

Eine zentrale Grundlage für ein praxistaugliches Konzept bildet dabei die Definition von praxisnahen Anwendungsfällen (Use Cases) zur Beschreibung von Anforderungen und Abgrenzung der intendierten Funktionalitäten des resultierenden Gesamtsystems. Im Folgenden werden zum einen die einzelnen Use Cases beschrieben und zum anderen wird die daraus erforderliche Gesamtsystemarchitektur dargestellt.

Die Beschreibung von KITT anhand dieser Use Cases erlaubt es, im Anschluss daran die haftungsrechtlichen Problemstellungen zu thematisieren.

Im Bereich der Tunnelsicherheit sind die Sicherheit der Verkehrsteilnehmer:innen, insbesondere ihr Verhalten im Ereignisfall, sowie Aspekte des Bauwerks mit seinen betriebs- und sicherheitstechnischen Systemen hinsichtlich der Verfügbarkeit zu berücksichtigen.

Im Forschungsprojekt KITT liegt der Fokus dabei auf einem risikoanalytischen Ansatz, bei dem potenzielle Gefährdungen durch entsprechende Daten aus konventionellen Tunnelsystemen und innovativer Fahrzeugkommunikation durch den Einsatz von KI detektiert und bewertet und daraus generierte Informationen an die entsprechenden Stakeholder (u.a. Infrastrukturbetreiber, Fahrzeugnutzer:innen) gesendet werden.

Die für das Forschungsprojekt definierten Use Cases betreffen dabei einerseits die Tunnelsicherheit und andererseits die IT-Sicherheit, da sich das Systemverhalten diesbezüglich deutlich unterscheidet:

• Use Case 1: Einleitung präventiver Maßnahmen (Tunnelsicherheit)
• Use Case 2: Optimierung der Selbstrettung (Tunnelsicherheit)
• Use Case 3: Optimierung der Fremdrettung (Tunnelsicherheit)
• Use Case 4: Erkennung von IT-Anomalien (IT-Sicherheit)

Der Einsatz von Künstlicher Intelligenz (hier machine learning),⁶ erfolgt in KITT ausschließlich in Use Case 1 zur Detektion und Bewertung der vorhandenen Daten und der Ableitung korrespondierender Informationen zur Einleitung von Maßnahmen.

Detailliert betrachtet, soll durch die KITT-KI die Eintrittswahrscheinlichkeiten unterschiedlicher Risikosituationen (u.a. Stau, unterschiedliche Geschwindigkeiten) und Ereignisse (u.a. Unfall, liegengebliebenes Fahrzeug) identifiziert werden, welche als Eingangsparameter für eine quantitative Risikoanalyse verwendet werden sollen. Das Ergebnis der Risikoanalyse ist die Angabe des aktuell vorhandenen Sicherheitsniveaus des Straßentunnels.

Sofern eine negative Entwicklung des Sicherheitsniveaus, entsprechende Risikosituationen oder Ereignisse identifiziert werden, werden einem/einer Tunneloperator:in über eine Benutzeroberfläche Maßnahmen zur Reduktion des Risikos empfohlen. Unabhängig von den Ergebnissen der KI können zudem bei bestimmten verifizierten Ereignissen durch C2X-fähige Fahrzeuge direkt Meldungen gesendet werden.

Die untenstehende Abbildung 1 stellt diesen Einsatz der KI anhand eines Prozessdiagramms dar, einschließlich der verschiedenen Arbeitsvorgänge und der Datennutzung. Die Rolle des KITT-Systems wird dabei (in orange) hervorgehoben. Die Darstellung zeigt, wie sich das System unter Berücksichtigung bestehender Abläufe bei der Überwachung von Straßentunneln einfügt.

Abbildung 1: Prozessdiagramm Use Case 1

Die Abbildung zeigt eine wesentliche Neuerung, die sich durch den Einsatz von innovativen Ansätzen im Bereich der C2X-Kommunikation und durch den Einsatz einer KI-basierten Echtzeitrisikoanalyse ergeben kann. Bisher stellte die technische Umgebung von Straßentunneln ein geschlossenes System dar, bei dem Sensoren und die betriebstechnische Ausstattung zur Tunnelüberwachung und Tunnelsteuerung über die Tunnelleittechnik an eine Leitzentrale angebunden sind (konventionelle Tunnelüberwachungssysteme). Die Nutzung der C2X-Kommunikation, bei der über eine drahtlose Verbindung (WLAN, 5G) sogenannte Ad-hoc-Netzwerke zum Datenaustausch gebildet werden, führt in gewissem Maße zu einer Öffnung des Gesamtsystems, da über die verwendete Schnittstelle ein potenzieller Zugang auf das Tunnelsystem geschaffen wird. Dies erfordert – um daraus resultierenden Gefahren entgegenzuwirken – eigene Sicherheitsvorkehrungen, weshalb in KITT zudem Möglichkeiten zur Überwachung der C2X-Schnittstelle untersucht werden, etwa das ebenfalls KI-basierte System zur Anomalie-Erkennung (Use Case 4: Erkennung von IT-Anomalien).

Die praktische Umsetzung der Anwendungsfälle setzt ein System voraus, das all diese Funktionalitäten abbildet, die zuvor für die verschiedenen Use Cases ermittelt wurden. Anschließend an die Definition der Use Cases wurde für KITT eine Gesamtsystemarchitektur abgeleitet, die maßgeblich auf den Anforderungen und Randbedingungen aus Use Case 1 und Use Case 4 basiert. Die Abbildung 2 stellt diese Gesamtarchitektur bildlich dar, gegliedert in verschiedene Funktionalitäten und technische Module.

Dabei werden unterschiedliche Module klassifiziert, die auf Daten und Informationen aus einer zentralen Middleware (hier in Form eines Information Brokers als Verteiler) zurückgreifen. Innerhalb des Information Brokers werden alle Daten aus den konventionellen Tunnelsystemen und der innovativen Fahrzeugkommunikation zwischengespeichert und für die einzelnen Module des KITT-Gesamtsystems zur Verfügung gestellt. Einzelne KI-Module – sowohl zur Detektion von Risikosituationen und Ereignissen aus C2X- und Tunneldaten als auch zur Anomalie-Erkennung mit Bezug auf das IT-Systemverhalten – verwenden diese Daten als Input und senden die daraus generierten Informationen an den Information Broker zurück. Diese Informationen werden als Eingangsparameter dem Evaluation Module zur Verfügung gestellt, welches eine Risikoanalyse und Bewertung durchführt. Die hier generierten Ergebnisse werden über den Information Broker an das Measures Module übergeben, welches wiederum passende Maßnahmen und Handlungsempfehlungen generiert.

Abbildung 2: Gesamtsystemarchitektur KITT

Im Rahmen von KITT wurde darüber hinaus ein Aggregation Module entwickelt, um aus den Einzelfahrzeugdaten Informationen über das Fahrzeugkollektiv des Tunnels zu erhalten (z.B. durchschnittliche Fahrzeuggeschwindigkeit). Diese Informationen werden über den Information Broker ebenfalls allen anderen Modulen angeboten. Als Schnittstelle zwischen dem/der Tunneloperator:in und dem Gesamtsystem ist mit dem User Interface Module eine Visualisierungsoberfläche vorgesehen, die alle erforderlichen Informationen anzeigt.

Der Aufbau des Gesamtsystems und insbesondere der Visualisierungsoberfläche erfolgte während des Projekts in enger Abstimmung mit Expert:innen aus dem Bereich der Tunnelsicherheit und wird durch Tunneloperator:innen evaluiert.

Nach geltendem Recht stellen sich im beim Einsatz von KITT bereits verschiedene Haftungsfragen, welche im Wesentlichen bereits im Rahmen eines vorangegangenen Forschungsprojekts⁷ dargestellt und thematisiert wurden.⁸ Hier sollen diese Ergebnisse (welche ausschließlich die österreichische Rechtslage beschreiben) in aller Kürze dargestellt werden:

Die zentrale Pflicht eines Infrastrukturbetreibers im Straßenverkehr ist jene der Straßenerhaltung, die entweder aus einem Vertrag (in Österreich für Autobahnen: der Mautvertrag) oder aus allgemeinen Verkehrssicherungspflichten resultiert. Hinter den Verkehrssicherungspflichten steht die Überlegung, dass jene Person, welche eine Gefahrenquelle schafft, auch angemessene Vorsichtsmaßnahmen zur Verhinderung dieser Gefahren treffen muss.⁹ Im Bereich der Straßen (und daher auch der Tunnel) kann nach der einschlägigen Rechtsprechung nicht jederzeit ein vollständig gefahrloser Zustand gefordert werden (d.h. keine „Erfolgshaftung“).¹⁰ Dass die Straße (und die umgebende Infrastruktur) nicht zu jederzeit vollkommen gefahrenfrei sein muss, entbindet den Infrastrukturbetreiber nicht davon, dennoch alle zumutbaren präventiven und reaktiven Maßnahmen zu treffen, um den Eintritt von Gefahren zu verhindern (allgemeine Verkehrssicherungspflichten insbesondere durch Warnungen wahrzunehmen).

Will man also jene Fälle betrachten, in denen der Einsatz des KITT-Systems durch den Infrastrukturbetreiber, für eingetretene Schäden (zumindest auch) kausal war, so ist zunächst nochmals hervorzuheben, dass mit dem Einsatz des KITT-Systems durch den Infrastrukturbetreiber primär die Erfassung und Visualisierung von bestimmten Risiken erfolgen soll (siehe oben Abbildung 1).

Die Maßnahmen zur Minimierung von Risiken und Verhinderung des Eintritts bestimmter Gefahren sollen, wie bereits einleitend erwähnt, nicht durch das KITT-System automatisiert vorgenommen (und auch nicht empfohlen) werden. Mit Blick auf den in Abbildung 1 dargestellten Use Case 1 bedeutet dies, dass sowohl eine Warnung/Information an die Fahrzeugnutzer im Tunnel als auch eine besondere Maßnahme (etwa Schließung des Tunnels, Herablassen des Schrankens) durch die Tunneloperator:innen selbst getroffen wird.

Dabei ist auch zu betonen, dass KITT bloß ergänzend zu bereits bestehender Monitoring-Technologie (u.a. Videoüberwachung der Tunnel, andere bestehende Sensorik) hinzutreten soll. Das bedeutet, dass die Tunneloperator:innen das Risiko in einem Tunnel somit über diese bereits bestehenden technischen Hilfsmittel eigenständig beurteilen können (etwa durch Einsichtnahme in den Tunnel). Ferner impliziert dies, dass die Tunneloperator:innen auch nicht auf das KITT-System angewiesen sind, sondern dieses lediglich potenzielle Risiken aufzeigt, die schließlich durch die Tunneloperator:innen verifiziert oder falsifiziert werden.

Im Bereich der Verschuldenshaftung ändert sich somit durch den Einsatz von KITT weder der Sorgfaltsmaßstab noch kommt es durch den Einsatz von KITT zu einer erweiterten Haftung des Infrastrukturbetreibers. Die Tunneloperator:innen hätten durch den Einsatz von KITT zwar eine weitere technische Unterstützung, die jedoch ihr eigenes (und eigenständiges, bewusstes und sorgfältiges) Eingreifen keineswegs ersetzt.

Der jüngere Entwurf einer neuen KI-Verordnung (engl.: AI-Act)¹¹ sieht insbesondere ein besonderes Risikomanagement hinsichtlich künstlicher Intelligenz vor. Die KI-Haftungsrichtlinie¹² hat die Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz zum Gegenstand. Diese Anpassung beinhaltet unter anderem einen erleichterten Beweis des Kausalzusammenhangs zwischen Verschulden des Beklagten und dem Eintritt des Schadens. Das Verschulden des Beklagten¹³ muss nach dem Entwurf der Haftungsrichtlinie weiterhin nachgewiesen werden (und kann etwa im Verstoß gegen unionsrechtliche oder nationale Verpflichtungen bestehen), ebenso wie der Kausalzusammenhang des Schadens und des Einsatzes des KI-Systems.¹⁴ Die Reichweite dieser Beweislasterleichterung erscheint somit sehr begrenzt.

Zusätzlich ist die KI-Haftungsrichtlinie in ihrem Anwendungsbereich auf die außervertragliche Haftung beschränkt.¹⁵ In Österreich wird in vielen Tunneln (aufgrund des zuvor erwähnten Mautvertrages mit der Infrastrukturbetreiberin) häufig ein Vertragsverhältnis vorliegen und daher die (ohnehin bereits strengere) vertragliche Haftung gelten.

Eine weitere Neuerung im Bereich des Haftungsrechts ist der Entwurf einer neuen, überarbeiteten Produkthaftungsrichtlinie.¹⁶ Diese Novelle der derzeit geltenden Produkthaftungsrichtlinie¹⁷ soll Lücken schließen, die angesichts des technologischen Fortschritts in den letzten Jahrzehnten seit dem Erlass der Richtlinie entstanden sind.

So soll damit die bestehende Produkthaftungsrichtlinie „vor dem Hintergrund der Entwicklungen im Zusammenhang mit neuen Technologien, einschließlich künstlicher Intelligenz (KI), neuer Geschäftsmodelle der Kreislaufwirtschaft und neuer globaler Lieferketten, die zu Inkonsistenzen und Rechtsunsicherheit insbesondere in Bezug auf die Bedeutung des Begriffs ‚Produkt‘ geführt haben, überarbeitet werden.“¹⁸

Die zentrale Neuerung durch die Produkthaftungsrichtlinie betrifft insbesondere die Legaldefinition des „Produktes“ selbst. Die bestehende Legaldefinition der geltenden Produkthaftungsrichtlinie¹⁹ wird entsprechend erweitert: „‘Produkt‘ bezeichnet alle beweglichen Sachen, auch wenn diese in eine andere bewegliche oder unbewegliche Sache integriert sind. Dazu zählen auch Elektrizität, digitale Bauunterlagen und Software.“²⁰

Damit ist potenziell auch ein System, wie es KITT darstellt, von der (strengen) Produkthaftung erfasst (unabhängig von einer Verkörperung²¹ der Software). Es stellt sich dann aber die Frage, ab wann die Fehlerhaftigkeit²² von Software im gegebenen Fall einen Schaden verursachen soll. Hier stellt sich insbesondere die Frage, ob eine (fehlerhafte) Aufbereitung von Informationen durch die Software die Produkthaftung auslösen soll. Dies erscheint aufgrund der folgenden Überlegungen unwahrscheinlich:

So erscheint im Zusammenhang mit KITT die Rechtsprechung des Europäischen Gerichtshofs (EuGH) zum geltenden Produkthaftungsrecht maßgeblich, wonach eine falsche Information (die durch ein Produkt“ bereitgestellt wird) nicht automatisch die Fehlerhaftigkeit eines Produktes zur Folge hat.²³ So macht eine (objektiv) falsche Information in einer Zeitung, das Produkt „Zeitung“ noch nicht fehlerhaft iSd PHG. Es ist zu bezweifeln, dass diese Rspr mit der neuen Richtlinie überholt wird. Vielmehr wird diese Abgrenzung zu Dienstleistungen (wie etwa Ratschlägen etc.), wie sie der EuGH zurecht hervorhebt,²⁴ auch weiterhin notwendig sein, um eine Ausuferung des besonderen Haftungsregimes der Produkthaftung zu vermeiden. So wird auch eine Software, die Informationen fehlerhaft darstellt oder unzureichend aufbereitet diese Software noch nicht zu einer „fehlerhaften“ Software machen, wenn sie nicht zusätzlich auch (direkt) einen Schaden verursacht. Auch scheint sehr zu bezweifeln, dass die Produkthaftung bei einem Dazwischentreten einer Tunneloperator:in noch greift.²⁵

Die Darstellung zeigt, dass KI-Systeme (wie das KITT-System), die zur Informationsaufbereitung in – wenngleich sehr kritischen Umgebungen (wie der Tunnelüberwachung) – eingesetzt werden, durch die europäischen rechtspolitischen Entwicklungen im Bereich des Haftungsrechts nur in sehr geringem Ausmaß betroffen sind. Dies ist insbesondere in Bereichen wie der Produkthaftung sinnvoll, müssen doch strenge Haftungsregime auf das notwendige Ausmaß eingegrenzt werden.

Abschließend sei hier noch angemerkt, dass die bereits in den Mitgliedstaaten etablierten Haftungsregime auch im geltenden Recht durchaus umfassend sind und auch den Einsatz von Künstlicher Intelligenz bereits derzeit in vielen Einsatzbereichen zu erfassen vermögen. Hier erscheint es wichtig, zukünftig geschaffene neue Rechtsakte auf jene Fälle zu beschränken, in denen tatsächlicher Regelungsbedarf besteht.²⁶

Das diesem Konferenzbeitrag zugrundeliegende Vorhaben wurde mit Mitteln des deutschen Bundesministeriums für Bildung und Forschung (BMBF) im Rahmen der Bekanntmachung „Künstliche Intelligenz in der zivilen Sicherheitsforschung“ sowie des österreichischen Bundesministeriums für Finanzen (BMF) im Rahmen des Sicherheitsforschungsprogramms KIRAS gefördert und vom VDI-Technologiezentrum sowie der Österreichischen Forschungsförderungsgesellschaft (FFG) abgewickelt.²⁷