Jusletter IT

Bereits in den letzten Jahren hat sich gezeigt, dass technologische Entwicklungen wie der Einsatz von künstlicher Intelligenz auch in Zusammenschau mit der Mobilität 4.0 im Bereich des Tunnelsicherheitsmanagement künftig breite Anwendung finden wird und einiges an Verbesserungspotential besitzt. Vor diesem Hintergrund erscheint es deshalb zunehmend unzumutbar, sich auf ein rein sinnesorganbasiertes Monitoring menschlicher Operatoren zu verlassen. Bereits zum aktuellen Zeitpunkt werden deshalb neben konventionellen Methoden der Tunnelüberwachung auch innovativere Ansätze zur Gefahrendetektion¹ genutzt, deren Nutzungspotential allerdings bedingt durch den (noch) beschränkten infrastrukturellen Ausbau, der allgemeinen Architektur des Mobilitätsektors und dem Stand der Technik an sich noch nicht vollumfänglich erreicht worden ist.

Das bestehende Tunnelmanagement der letzten Jahre bestätigt zwar, dass in den Tunnelanlagen mittlerweile ein hohes Maß an Sicherheit besteht, allerdings scheinen gewisse Abläufe zur Gefahrendetektion stark verbesserungsbedürftig zu sein. Insbesondere die menschlichen Operatoren, die in den Tunnelleitzentralen als zentrale Überwachungsstelle der 169 Tunnelanlagen in Österreich fungieren, sind einem enormen Handlungs- und Leistungsdruck ausgesetzt. Eine Entlastung durch technische Hilfsmittel wäre wünschenswert, um sowohl den Operatoren ihre Monitoring-Arbeit zu erleichtern und somit menschliche Fehler zu reduzieren als auch die Tunnelsicherheit noch weiter zu steigern (v.a. die Sicherheit der Verkehrsteilnehmer und den Schutz der Tunnelbauwerksubstanz).

Die künftigen Methoden der Gefahrendetektion im Bereich des Tunnelmanagements könnten sich mit dem Ausbau eines vernetzten Verkehrs insbesondere dem flächendeckenden Einsatz von kooperativen intelligenten Verkehrssystemen („Cooperative Intelligent Transport System“, kurz: „C-ITS“) nachhaltig verändern. C-ITS bezeichnet einen umfassenden automatisierten multidirektionalen Informationsaustausch basierend insbesondere auf (teil)standardisierten Nachrichten² (wie beispielsweise: „Cooperative Awareness Messages“³; kurz: „CAM“ oder „Decentralized Enviromental Notification Messages“⁴; kurz: „DENM“), der sowohl zwischen den einzelnen Verkehrsteilnehmern („Vehicle-to-Vehicle“; kurz: „V2V“) als auch der Infrastrukturkomponenten („Vehicle-to-Infrastructure“; kurz: „V2I“ oder „I2V“) stattfinden soll. Die Informationen sollen dabei direkt und in Echtzeit aus dem Verkehrsfluss übertragen werden und könnten auch für weitere Systeme und somit weitere Anwendungsmöglichkeiten zur Verfügung gestellt werden. Diese stetig wachsende Verfügbarkeit von Daten⁵ hat in den letzten Jahren zu einer revolutionären Entwicklung und Anwendung von KI-Modellen geführt und somit weitreichende Auswirkungen auf alle Aspekte unseres täglichen Lebens.

Auch in der Forschung hat man die Bedeutung dieser Technologie und die aktuelle tunnelsicherheitsspezifische Problematik erkannt und verfolgt im Rahmen des kooperationsübergreifenden FFG KIRAS Projektes „Künstliche Intelligenz zur Verbesserung der Sicherheit von Tunneln und Tunnelleitzentralen (kurz: „KITT“)“ den Ansatz, ein auf künstlicher Intelligenz basierendes System zu konzipieren, das künftig gewisse Ereignisszenarien aus dem C-ITS-Informationsfluss in Echtzeit ableiten und dem menschlichen Operator präzise Handlungsanweisungen vorschlagen soll.

Die endgültige Letztentscheidung soll auch beim Einsatz dieses neuartigen Systems weiterhin bei den menschlichen Operatoren in den jeweils tätigen Tunnelleitzentralen verbleiben (etwa, ob und auch welche Maßnahmen schlussendlich zur Gefahrenreduktion oder idealerweise -vermeidung eingeleitet werden sollen). Das sogenannte „KITT-System“ wird als „add-on“ lediglich zusätzliche Informationen für die Bewertung von Ereignisszenarien aufbereiten und soll somit die Entscheidungsfindung der Operatoren erleichtern und auch zur wesentlichen Reduktion deren Handlungs- und Leistungsdruck beitragen.

Das bisherige Sicherheitskonzept in den Tunnelanlagen soll demnach an die rasant fortschreitenden technologischen Entwicklungen angepasst werden, stets von der Prämisse geleitet, die Verkehrssicherheit weiter zu verbessern. Mit der durch die europäische Mindestharmonisierung⁶ aus dem Jahr 2004 ist der erste regulatorische Eckpfeiler und somit eine einheitliche Grundlage für ein adäquates Sicherheitsniveau in den Tunnelanlagen im Verlauf des transeuropäischen Verkehrsnetzes geschaffen worden. Es ist allerdings nicht zu leugnen, dass die Europäische Tunnelsicherheits-Richtlinie zunehmend veraltet erscheint, insbesondere in Hinblick auf den normierten Sicherheitsmaßnahmenkatalog,⁷ der die technisch möglichen Methoden zur Gefahrenreduktion und -vermeidung nicht ansatzweise ausschöpft. Die in der Richtlinie vorgesehenen Sicherheitsmaßnahmen betreffen überwiegend architektonische und ausstattungsbezogene Vorgaben.

Hinsichtlich technischer Überwachungsmaßnahmen sieht die Richtlinie und auch die österreichische Umsetzung im Straßentunnelsicherheitsgesetz (STSG)⁸ lediglich den Betrieb eines Videoüberwachungs- und Videodetektionssystems vor. Aufgrund der Fehleranfälligkeit dieser Systeme⁹ wird dieser Methode zur Gefahrendetektion in der Praxis allerdings lediglich eine marginale Bedeutung zugeschrieben. Die meisten innovativeren Systeme, die bereits heute von der ASFINAG¹⁰ betrieben werden, werden aus eigenem Antrieb (d.h. in Wahrnehmung der eigenen gehobenen Sorgfaltspflicht gegenüber den Verkehrsteilnehmern), ohne ausdrückliche rechtliche Verpflichtung eingesetzt¹¹

Hinzu kommt, dass der Einsatz von künstlicher Intelligenz im Bereich der Tunnelsicherheit eine Fülle an unbeantworteten Rechtsfragen aufwirft. Aufgrund der noch weitgehend unklaren Rechtslage de lege lata, ergeben sich zahlreiche offene Rechtsfragen, die dringend zu klären sind.¹² Auch die aktuellen Entwicklungen auf europäischer Ebene de lege ferenda müssen vor diesem Hintergrund bereits jetzt in der juristischen Analyse des Projektvorhabens Berücksichtigung finden.

In diesem Beitrag sollen dementsprechend die spezifischen rechtlichen Problemstellungen, die sich durch den Einsatz von künstlicher Intelligenz im Bereich der Tunnelsicherheit ergeben, aufgezeigt, sowie die sich künftig ändernde Rechtslage mit besonderen Blick auf den bereits von der EU-Kommission vorgeschlagenen Entwurf zur Regulierung von Künstlicher Intelligenz berücksichtigt werden.

Innerhalb der C-ITS-Infrastruktur werden unterschiedliche teil(standardisierte) Nachrichten zwischen Verkehrsteilnehmer und Infrastrukturkomponenten ausgetauscht.

Wie oben bereits erwähnt, werden CAM-Nachrichten beispielsweise als „Puls“-Nachrichten, von jedem entsprechend konfigurierten Fahrzeug regelmäßig an alle in unmittelbarer Umgebung befindlichen Fahrzeuge und Infrastrukturkomponenten gesendet, um Informationen über Anwesenheit, Position und den grundlegenden Status¹³ zu übertragen. Zusätzlich enthalten sie auch Informationen über das Fahrverhalten eines Fahrzeuges wie Geschwindigkeit, Fahrtrichtung, Beschleunigung usw. Die CAM-Nachrichten werden im regelmäßigen Abstand von maximal einer Sekunde gesendet und somit an ihre Umgebung „gebroadcastet“.¹⁴

Innerhalb des C-ITS-Informationsaustausches können auch DENM-Nachrichten übertragen werden. DENM-Nachrichten sind ereignisausgelöste Meldungen, die gesendet werden, um Verkehrsteilnehmer vor einem gefährlichen Ereignis zu warnen.¹⁵ Es handelt sich dabei um eindeutige Nachrichten, die auf ein bestimmtes, schon eingetretenes Ereignis oder auf eine akute Gefahrensituation hinweisen.

Während CAM-Nachrichten primär für die Kommunikation von Fahrzeugen untereinander verwendet werden sollen z.B. im Bereich des autonomen Fahrens, bedarf es für die laufende Verkehrsüberwachung und akkurate Lagebeurteilung in Tunneln weitergehender Analysemethoden. Hierbei bieten sich vor allem moderne Methoden der künstlichen Intelligenz an, die große Mengen an Echtzeitinformationen aus dem Verkehrsfluss effektiv und rasant verarbeiten können. Allerdings bringt die Gefahrenanalyse durch eine KI basierend auf DENM-Nachrichten keinen direkten Mehrwert für die Ereignisdetektion als solche, da sich diese Meldungen in der Regel lediglich auf ein bereits eingetretenes Ereignis beziehen. Diese Informationen können allerdings für Validierung und Bestätigung der Gefahrendetektion durch die KI aus den CAM-Nachrichten nützlich sein.

Moderne KI-Methoden werden in verschiedenen Bereichen bereits effektiv für die Anomalieerkennung verwendet. Da es sich bei den vom KITT-System zu detektierenden Risikosituationen und Verkehrsereignissen um seltene Ereignisse handelt, können diese als „Anomalien“ bezeichnet werden. Konkret bedeutet dies nun zum einen, dass das KITT-System den stetigen Verkehrsfluss mittels der oben erwähnten CAM-Nachrichten auf solche Anomalien untersucht und zum anderen kann die KI zusätzlich analysieren, ob die CAM-Nachrichten selbst durch Cyber-Angriffe manipuliert wurden.

Die KI übernimmt somit in KITT zwei zentrale Kernaufgaben:

1.) Konkret sind Anomalien im ersten Anwendungsfall als CAM-Nachrichten definiert, die Informationen über eine gefährliche Verkehrssituation im Tunnel enthalten, und somit eine Situation beschreiben, die sich vom Normalverhalten im Tunnel unterscheidet. Dabei soll die KI nicht die konventionellen Systeme ersetzen, sondern die neu verfügbaren C-ITS Informationen nutzen und den Tunneloperator in seinen Entscheidungen mit diesen zusätzlichen Informationen unterstützen. So kann die KI die Wahrscheinlichkeit für das Eintreten eins Unfallereignisses berechnen, welche in einer nachgeschalteten Echtzeitrisikoanalyse zu konkreten Handlungsempfehlungen übersetzt werden kann. Zusätzlich erlaubt die Detektionen von verschiedenen Risikosituationen die Einleitung von in den Alarm- und Gefahrenabwehrpläne (kurz „AGAP“) ¹⁶ definierten Präventivmaßnahmen.

2.) Im zweiten Anwendungsfall soll durch die Erkennung von Cyber-Attacken mittels C-ITS Nachrichten, verhindert werden, dass die Situationswahrnehmung des menschlichen Operators manipuliert wird, wodurch falsche, potenziell gefährliche Maßnahmen ausgelöst werden könnten. Auch solche Cyber-Attacken können häufig als Anomalien erkannt werden, da die empfangenen Nachrichten vom Normalverhalten abweichen.

Zusammenfassend schließt sich aus der obigen Beschreibung, dass eine Gefahrendetektion durch die Analyse von CAM-Nachrichten mithilfe von KI-Methoden zu einer Verbesserung der Situationsbewertung der menschlichen Operatoren beitragen kann. Diese Situationsbewertung kann durch die Aufbereitung von DENM-Nachrichten ergänzt werden. Da die Durchdringungsrate von C-ITS Technologien im Straßenverkehr allerdings auch noch in naher Zukunft sehr gering sein wird, ist zu erwarten, dass viele Ereignisse und Gefahrensituationen nicht direkt aus den DENM-Nachrichten detektiert werden können. Daher wird der Fokus auf der Auswertung der CAM-Nachrichten liegen.

Hinsichtlich der rechtlichen Beurteilung stellt sich die Frage, welche regulativen Anforderungen ein KI-System erfüllen muss, um in der Europäischen Union zulässig zu sein. Nach geltender Rechtslage sind vor allem datenschutzrechtliche Implikationen ausschlaggebend, die jedoch für die Regulierung von KI-Systeme als solche eher ephemer erscheinen und somit nur bedingt geeignet sind.¹⁷

Im Juni 2021 legte die EU-Kommission deshalb den weltweit ersten Verordnungsentwurf zur Regulierung von künstlicher Intelligenz vor.¹⁸ Die Europäische Union will mit diesem durchaus prestigeträchtigen Regulierungsvorhaben eine weltweit führende Rolle im Umgang mit KI einnehmen und einen regulatorischen Kompromiss zwischen Innovationsförderung und Grundrechtsschutz finden. Mit dieser irreführend als „KI-Gesetz“ titulierten europäischen Verordnung¹⁹ sollen europaweite einheitliche Mindestanforderungen geschaffen werden, die zum einen die Förderung der Entwicklung, die Verwendung und Dissemination von KI gewährleisten und zum anderen die Funktionalität des Binnenmarktes durch einen vertrauenswürdigen, einheitlichen und sicheren Rechtsrahmen stärken soll.²⁰

Die KI-Verordnung verfolgt grundsätzlich einen horizontalen und risikobasierten Regulierungsansatz und soll für alle Anbieter, die in der Union ein KI-System in Verkehr bringen oder in Betrieb nehmen, für alle Nutzer, die sich in der Union befinden und für alle Anbieter und Nutzer, die zwar in einem Drittland ansässig sind, aber das vom System hervorgebrachte Ergebnis in der Union verwendet werden soll, anwendbar sein.²¹ Somit entfaltet die KI-Verordnung exterritoriale Wirkung und zeichnet sich durch einen äußerst weit formulierten Anwendungsbereich aus, der unglücklicherweise auch aufgrund der breitgefächerten Definition von KI selbst einige Unklarheiten mit sich bringt. Der Definitionsversuch²² von künstlicher Intelligenz sorgt aufgrund seiner unscharfen und weitreichenden Formulierung bereits jetzt für Abgrenzungsschwierigkeiten.²³ Schließlich soll künftig beinahe jegliche Art von Software von der KI-Verordnung umfasst werden.²⁴

Unzweifelhaft mag der weite Anwendungsbereich auf den ersten Blick verwunderlich erscheinen, allerdings muss berücksichtigt werden, dass – sollte der Anwendungsbereich eröffnet sein – durch die regulatorische Umsetzung eines risikobasierten Ansatzes den rechtlichen Anforderungen an ein KI-System Grenzen gesetzt werden.

Nach Steege stellt der risikobasierte Ansatz allerdings kein umfassendes restriktives Korrektiv zum weiten Anwendungsbereich dar, da Unternehmen mangels trennscharfer Unterscheidung von KI und herkömmlicher Software künftig unter den sachlichen Anwendungsbereich der KI-VO fallen werden und der risikobasierte Ansatz schließlich erst nach Eröffnung des Anwendungsbereich zum Greifen kommt. Unternehmen entsteht somit ungeachtet dessen ein beachtlicher Mehraufwand, da sie im ersten Schritt prüfen müssen, ob ihre Software vom KI-Begriff der KI-VO umfasst ist und dann im zweiten Schritt beurteilen müssen unter welche Risikokategorie ihr System fällt.²⁵

Denn aufgrund des gewählten Regulierungsansatzes der KI-VO sollen KI-Systeme nicht in jedem Anwendungsfall in allumfassender Detailtiefe reguliert werden, sondern abhängig von ihrer Einordnung in die vier verschiedenen Risikokategorien (KI-System mit geringem, minimalen, hohen oder unannehmbaren Risiko) unterschiedlichen gesetzlichen Anforderungen unterliegen.

Wohingegen KI-Systeme mit minimalen und geringen Risiko kaum bis gar keiner Regulierung unterliegen werden, werden sogenannte KI-Systeme mit unannehmbaren oder hohen Risiko²⁶ künftig einem umfassenden Anforderungskatalog (Hochrisiko-KI-Systeme) entsprechen müssen bzw. einem weitgehenden Verbot (KI-Systeme mit unannehmbaren Risiko) unterliegen.²⁷

Art. 6 des Verordnungsentwurfes regelt die Klassifizierungsvorschriften von Hochrisiko-KI-Systemen und sieht grundsätzlich zwei unterschiedliche Kategorien von Hochrisiko-KI-Systemen vor. Art. 6 Abs. 1 des Verordnungsentwurfes sieht solche KI-Systeme als hochriskant, die als Sicherheitskomponenten von Produkten verwendet werden sollen, die unionsrechtlichen Harmonisierungsvorschriften unterliegen.²⁸

Art. 6 Abs. 2 des Verordnungsentwurfes verweist auf den Anhang III der geplanten KI-Verordnung und normiert, dass auch sonstige eigenständige KI-Systeme in den dort ausdrücklich angeführten Bereichen als hochriskant gelten. Für jeden der insgesamt acht Bereichen²⁹ sind zusätzliche Bedingungen erlassen worden.

Als Punkt 2 führt Anhang III den Bereich „Verwaltung und Betrieb kritischer Infrastrukturen“ an und definiert weiters, dass „KI-Systeme, die bestimmungsgemäß als Sicherheitskomponenten in der Verwaltung und im Betrieb des Straßenverkehrs sowie in der Wasser-, Gas-, Wärme- und Stromversorgung verwendet werden sollen“ als hochriskant gelten. Zudem wird im Verordnungsentwurf selbst angeführt, dass solche Systeme deshalb als hochriskant gelten sollten, da „ihr Ausfall oder Störung in großem Umfang das Leben und die Gesundheit von Menschen gefährden und zu erheblichen Störungen bei der normalen Durchführung sozialer und wirtschaftlicher Tätigkeit führen kann“.³⁰ Der zweite Anwendungsfall von Hochrisiko-KI-Systeme könnte insbesondere für KITT interessant sein und gilt dementsprechend zu prüfen.

Im Zusammenhang mit KITT stellt sich die Frage, ob der Einsatz von künstlicher Intelligenz zur Gefahrendetektion insbesondere deren bestimmungsgemäßen Gebrauch als „add-on“ vom Verordnungsentwurf insbesondere von der Klassifizierung als Hochrisiko-KI-System umfasst wird und wenn dies zu bejahen sein sollte, welche rechtlichen Anforderungen zu berücksichtigen sind.

Sollte KITT als hochriskant einzustufen sein, müsste das KI-System dem umfassenden Maßnahmenkatalog³¹ und somit dem Herzstück der KI-Verordnung entsprechen. Das würde einen zusätzlichen monetären und organisatorischen Aufwand nach sich ziehen, dem bestenfalls durch die Berücksichtigung der geplanten rechtlichen Regulierung mit der Arbeit aus diesem Projekt entgegengesteuert werden kann.

Tunnelanlagen sind Teil der Infrastrukturkomponenten der Straßenverkehrsinfrastruktur,³² weshalb der Einsatz von KITT zur Verbesserung der Tunnelsicherheit zur Verwaltung und Betrieb des Straßenverkehrs zugeordnet werden kann.

Als nächster Prüfungsschritt gilt zu klären, ob KITT bestimmungsgemäß als Sicherheitskomponente eingesetzt werden soll. Als Sicherheitskomponente wird ein „Bestandteil eines Produkts oder Systems, der eine Sicherheitsfunktion für dieses Produkt oder System erfüllt oder dessen Ausfall oder Störung die Gesundheit und Sicherheit von Personen oder Sachen gefährdet“ angesehen.³³

Die in KITT eingesetzte KI soll durch die Detektion ausgewählter Ereignisszenarien zur Verbesserung der Tunnelsicherheit beitragen, indem die menschlichen Operatoren in ihrer Monitoring-Tätigkeit unterstützt werden. Zusätzlich soll die KI auch manipulierte CAM-Nachrichten erkennen und somit potentielle Cyber-Angriffe abwehren. Anzumerken ist allerdings, dass KITT lediglich als technisches Hilfsmittel zu bereits bestehenden Prozessen angedacht ist, weshalb die KI keine eigenständigen Entscheidungen trifft, die unmittelbar zur Einleitung entsprechender Maßnahmen (beispielsweise Tunnelschließung) führt. Der menschliche Operator soll lediglich in seiner Entscheidungsfindung unterstützt werden und somit zielgerichteter und vor allem mit entsprechenden Geschwindigkeitsvorteil³⁴ entsprechende Sicherheitsmaßnahmen zur Gefahrenreduktion oder -vermeidung einleiten.

Es ist deshalb auch eher anzuzweifeln, dass bei etwaiger Störung oder Ausfall von KITT eine Gefährdung der Gesundheit und Sicherheit der Verkehrsteilnehmer oder der Tunnelsubstanz zumindest im ersten Anwendungsfall von KITT zu erwarten ist, da im Normalfall ein umfassendes Monitoring durch die Operatoren aufrechterhalten werden kann.

Zusätzlich könnte im zweiten Anwendungsfall auch diskutiert werden, dass der Ausfall oder die Störung von KITT künftig in einem hochautomatisierten Verkehr eine gewisse Sicherheitsgefährdung nach sich ziehen kann, sollten manipulierte CAM-Nachrichten im Bereich der Tunnelsicherheit nicht erkannt werden.³⁵ Auch wurde im Projektkonsortium bereits von den Praktikern angemerkt, dass die menschlichen Operatoren in den Tunnelleitzentralen zwar äußerst routiniert und erfahren (teilweise mehr als zwanzig Jahre Berufserfahrung) sind, allerdings überwiegend nicht das technische Verständnis besitzen Störungen des C-ITS-Informationsaustausches oder des KITT-Systems adäquat nachzuvollziehen, geschweige denn in der Lage sind, solche Störungen oder Ausfälle zu beseitigen. Zusätzlich darf auch nicht außer Acht gelassen werden, dass die Implementierung solcher Hilfssystemen in der Praxis dazu führen kann, dass gerade Systemen mit geringer Fehlalarmquote äußerst viel Vertrauen entgegengebracht wird und die Operatoren einem „automation bias“³⁶ unterliegen könnten.

Für das Projekt ergeben sich durch das umfassende Regulierungsvorhaben zahlreiche interessante Rechtsfragen, die bestenfalls bereits im jetzigen Projektstand Berücksichtigung finden müssen. Von rechtlicher Seite ist schließlich ausdrücklich festzuhalten, dass die Einstufung von KITT als hochriskant nicht zur Folge hat, dass KITT rechtlich unzulässig ist. Die Einstufung als Hochrisiko-KI-System bedingt lediglich, dass KITT den rechtlichen Anforderungen des Kapitel II des geplanten Verordnungsentwurfes zu entsprechen hat.

KITT würde zwar als potenziell hochriskant gelten, dieses Risiko soll allerdings durch die Implementierung der normierten Maßnahmen auf ein annehmbares Maß reduziert werden, sodass der Einsatz von KITT in der Europäischen Union auch in Zukunft zulässig wäre. Unzweifelhaft bedeutet die Einordnung von KITT als Hochrisiko-KI-System einen nicht unbeachtlichen Mehraufwand für die Unternehmen, aber auch für die Softwareentwickler.

Aufgrund der oben dargestellten Problematik und der Fülle an unbestimmten bzw. unzureichend konkretisierten Rechtsbegriffen der KI-Verordnung ist zu erwarten, dass die KI-Verordnung – ähnlich dem Modell der DSGVO – künftig nur parallel mit Judikatur und Leitlinien lesbar sein wird. Für Rechtsunterworfene würde dies nicht die erhoffte Rechtsicherheit erbringen, die doch in einem so durchdringlichen und wichtigen Regulierungsbereich wünschenswert wäre.

Das diesem Bericht zugrundeliegende Vorhaben wurde mit Mitteln des deutschen Bundesministeriums für Bildung und Forschung (BMBF) im Rahmen der Bekanntmachung „Künstliche Intelligenz in der zivilen Sicherheitsforschung“ sowie des österreichischen Bundesministeriums für Landwirtschaft, Regionen und Tourismus (BMLRT) im Rahmen des Förderungsprogramms für Sicherheitsforschung KIRAS gefördert und vom VDI Technologiezentrum sowie der Österreichischen Forschungsförderungsgesellschaft (FFG) abgewickelt.