Jusletter IT

«Böse Algorithmen und die guten Menschen.»¹ Die Ansicht, menschliche Entscheidungen seien den maschinellen überlegen, ist in der Öffentlichkeit weit verbreitet. Zurecht?²

Je nach Entscheidung ist diese Annahme zutreffend, als generelle Ansicht jedoch unrichtig.³ Stark regulierte Entscheidungsprozesse können von einer Maschine mindestens so gut bewältigt werden wie vom Menschen.⁴ Im öffentlich-rechtlichen Bereich gibt es zahlreiche solcher standardisierter Entscheidungsprozesse, welche automatisiert werden können, wie beispielsweise die Entscheidung über ein Gesuch um Familienzulage, welche ausschliesslich auf den Daten in der Familienausgleichskasse beruht.⁵

Demnach erscheint ein allgemeines Verbot von automatisierten Entscheidungen als nicht sinnvoll. Trotzdem empfiehlt sich eine Regulierung, da nicht alle Entscheide für eine Automatisierung geeignet sind. Öffentlich-rechtliche Entscheide von Algorithmen schränken das rechtliche Gehör ein, da eine vorgängige Äusserung der betroffenen Person ausgeschlossen ist und die Begründungspflicht der Behörden nur beschränkt gewährleistet werden kann. Es bleibt zu diskutieren, für welche Entscheide diese Einschränkung verfassungskonform und im Interesse der Gesellschaft ist. Folglich beschäftigt sich diese Arbeit mit der Frage: Inwiefern berücksichtigen die automatisierten Einzelentscheidungen von Bundesorganen nach Art. 19 E-DSG das rechtliche Gehör? Wie wird dies in der EU gehandhabt?

Um genauer auf die Frage einzugehen, werden in einem nächsten Kapitel die Begriffe des automatisierten Einzelfallentscheides und rechtlichen Gehörs erläutert. Darauf folgt ein Vergleich der Regelung in der EU und der Schweiz bezüglich des automatisierten Einzelfallentscheides. Der Vergleich soll illustrieren, wie die Schweiz und die EU unterschiedlich mit der Thematik umgehen. Zunächst wird auf den Diskurs über das rechtliche Gehör im Rahmen von Art. 19 E-DSG eingegangen. Abschliessend erfolgen in einem Fazit eine Zusammenfassung und reflexive Auseinandersetzung der Ergebnisse der Arbeit.

Die erläuterten Definitionen sollen im Folgenden als Grundlage dienen, um dann genauer auf die Frage nach dem rechtlichen Gehör im Datenschutzgesetz einzugehen.

Der Begriff der automatisierten Einzelfallentscheidung gemäss E-DSG folgt demjenigen der europäischen DSGVO.⁶ Ein automatisierter Einzelentscheid im Sinne von Art. 19 E-DSG ist nach der Botschaft des Bundesrates gegeben, wenn der Entscheid ausschliesslich auf einer automatisierten Bearbeitung beruht.⁷ Dabei wird weder die Sachverhaltsbeurteilung noch die darauf beruhende Entscheidung von einer natürlichen Person getätigt.⁸ Zudem ist eine rein regelbasierte Entscheidung, wie beispielsweise ein Bankomat-Bezug, gemäss dem Bundesrat nicht unter automatisierter Einzelentscheid zu subsumieren, da eine gewisse Komplexität bezüglich der Entscheidung verlangt wird.⁹

Die allgemeinen Verfahrensgarantien umfassen unter anderem den Anspruch auf rechtliches Gehör gemäss Art. 29 Abs. 2 BV. Nach der bundesgerichtlichen Rechtsprechung entsteht ein Anspruch auf rechtliches Gehör, wenn ein Hoheitsakt unmittelbar die Rechtsstellung eines Einzelnen berührt.¹⁰ Der Betroffene erhält dann das Recht auf persönlichkeitsbezogene Mitwirkung und den Behörden wird die Pflicht auferlegt, ihre Entscheidung zu begründen und den Betroffenen aufzuklären.¹¹

Der Anspruch auf rechtliches Gehör wird in Art. 30 VwVG konkretisiert. Der Artikel besagt, dass die Behörden die Parteien anzuhören haben, bevor sie verfügen. Eine vorgängige Äusserung kann gemäss Art. 30 Abs. 2 VwVG unter Umständen ausgeschlossen werden. Diese Ausnahmen sind vorgesehen, damit der Anspruch auf rechtliches Gehör nicht zu Leerläufen oder unnötigen Verzögerungen führt.¹²

Innerhalb des Kapitels der Informationspflicht ist im Art. 19 E-DSG die Bestimmung über die automatisierte Einzelentscheidung festgehalten. Dem Artikel kommt eine eigenständige Bedeutung zu; er ist auf Grundlage der revidierten Konvention 108 des Europarates entstanden.¹³ Die Regelung des automatisierten Einzelentscheides in Art. 19 E-DSG enthält Ähnlichkeiten mit der EU-Regelung Art. 22 DSGVO.

Art. 22 DSGVO verbietet automatisierte Einzelfallentscheidungen, welche der betroffenen Person gegenüber «Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt».¹⁴ Dabei ist irrelevant, ob sich der Entscheid positiv oder negativ auf die Rechte einwirkt, die Wirkung muss ein gewisses Gewicht aufweisen.¹⁵ Über dieses grundsätzliche Verbot hinaus sind im zweiten Absatz von Art. 22 DSGVO Erlaubnisvorbehalte eingeräumt, wobei Massnahmen wie das Anhörungsrecht zu wahren sind.¹⁶ Zudem hat nach der DSGVO die betroffene Person einen Anspruch darauf, nicht einer automatisierten Einzelfallentscheidung zu unterliegen.¹⁷

Anders soll dies nach dem E-DSG in der Schweiz gehandhabt werden. Art. 19 E-DSG sieht eine Erlaubnis mit Verbotsvorbehalt bezüglich des automatisierten Einzelfallentscheides vor.¹⁸

Wurde die betroffene Person durch den Entscheid erheblich beeinträchtigt oder ist der Entscheid mit einer Rechtsfolge verbunden, so entsteht eine Informationspflicht.¹⁹ Eine erhebliche Beeinträchtigung ist anzunehmen bei einem Eingriff in wirtschaftliche oder persönliche Belange der betroffenen Person, wobei die konkreten Umstände des Einzelfalls massgebend sind.²⁰ Zudem betrachtet die Schweiz jegliche Rechtsfolge als genügend.²¹ Des weiteren besteht für Bundesbehörden eine Kennzeichnungspflicht bei der Anwendung eines automatisierten Entscheides.²² Ein Ausschluss des rechtlichen Gehörs ist möglich, solange «der betroffenen Person gegen die Entscheidung ein Rechtsmittel zur Verfügung steht».²³

Zusammenfassend kann gesagt werden, dass die vorgesehene Regelung der Schweiz gegenüber der EU-Regelung eher zurückhaltend wirkt. Das Verbot mit Erlaubnisvorbehalt im EU-Recht verleiht den Behörden mehr Kontrolle über die automatisierten Einzelentscheide im Gegensatz zum schweizerischen Ansatz der grundsätzlichen Erlaubnis. Zudem ist das rechtliche Gehör im EU-Recht fast immer zu gewährleisten und die betroffene Person hat einen Anspruch darauf, nicht dem automatisierten Einzelfallentscheid zu unterliegen. Anders in der Schweiz, wo die entscheidende Bundesbehörde das rechtliche Gehör teilweise ausschliessen kann und es nur auf Antrag zu gewährleisten hat.²⁴ Im nächsten Kapitel wird näher auf das rechtliche Gehör im Rahmen des E-DSG eingegangen.

Zur Sicherstellung des rechtlichen Gehörs bei automatisierten Entscheiden von Bundesorganen wurde in Art. 19 Abs. 4 E-DSG eine Kennzeichnungspflicht eingeräumt.²⁵ Die Kennzeichnung soll dazu dienen, dass die betroffene Person um ihre weiteren verfahrensrechtlichen Ansprüche, insbesondere ihr Recht auf Anhörung und Begründung im Rahmen des rechtlichen Gehörs, aufmerksam gemacht wird.²⁶

Im Folgenden wird zuerst auf das Recht auf Anhörung und dann auf das Recht auf Begründung eingegangen. Beide Rechte, die auf dem rechtlichen Gehör beruhen, sind relevant für die Vereinbarkeit des Grundrechtes und der automatisierten Einzelfallentscheidung und bringen unterschiedliche Problematik mit sich.

Im vorgesehenen Art. 19 E-DSG kritisiert Rosenthal, dass das Recht auf Anhörung sowohl vor als auch nach dem Entscheid ermöglicht wird.²⁷ Die Durchführung einer Anhörung vor dem Entscheid würde den Artikel nicht mehr zur Anwendung kommen lassen, da in einer solchen Konstellation kein automatisierter Einzelfallentscheid gegeben ist.²⁸ Eine Anhörung nach dem Entscheid führt zur ungeklärten Frage, wie lange die betroffene Person berechtigt bleibt, auf einen Entscheid zurückzukommen.²⁹ Bis dahin müsste, damit die Regelung von Art. 19 E-DSG sinnvoll bleibt, der automatisierte Einzelfallentscheid wirksam, jedoch in Schwebe bleiben.³⁰

Weiter gibt Art. 19 Abs. 2 E-DSG der betroffenen Person auf Antrag die Möglichkeit, sich anhören zu lassen und die Entscheidung von einer natürlichen Person überprüfen zu lassen.³¹ Das Recht auf Anhörung wird hier eingeräumt, jedoch sind die Ansprüche deckungsgleich mit jenen aus Art. 30 Abs. 1 VwVG.³² Eine Wiederholung von bereits geschriebenem Recht erscheint auf den ersten Blick unproblematisch, kann jedoch, wie Roth darauf hinweist, zu Rechtsunsicherheit führen.³³ Wird die Kennzeichnungs- und Anhörungspflicht nach Art. 19 Abs. 4 E-DSG als widerrechtliche Datenbearbeitung nach Art. 37 Abs. 1 E-DSG qualifiziert, so entsteht ein auf Art. 37 Abs. 1 lit. b E-DSG gestützter Anspruch auf Aufhebung einer Verfügung.³⁴ Dies hätte zur Folge, dass die Aufhebung ohne Rücksicht auf die Rechtsmittelfristen möglich wäre und die formelle Rechtskraft solcher Verfügungen infrage gestellt würde.³⁵

Zudem werden die Ansprüche aus Art. 19 Abs. 2 E-DSG gemäss dem vierten Absatz ausgeschlossen, wenn die betroffene Person von einem automatisierter Einzelentscheid eines Bundesorganes «ein Rechtsmittel zur Verfügung steht».³⁶ Demnach wird das Recht auf vorgängige Äusserung ausgeschlossen, was gemäss Rechsteiner eine schwere Gehörsverletzung darstellt.³⁷ Es handelt sich nämlich um eine gesetzlich angelegte Gehörsverletzung, welche in allen künftigen Fällen gewährt wird.³⁸ Anders als bei einer Gehörsverletzung in der Rechtsanwendung oder Rechtsprechung, wo eine Zurückweisung im Einzelfall vorliegen würde und somit die Verletzung als weniger schwer anzusetzen wäre.³⁹ Diese schwere Verletzung des rechtlichen Gehörs sei, so Rechsteiner, nicht verfassungskonform und müsste geändert werden von «wenn der betroffenen Person gegen die Entscheidung ein Rechtsmittel zur Verfügung steht» zu «wenn die betroffene Person gegen die Entscheidung Einsprache erheben kann».⁴⁰ Eine solche gesetzliche Einschränkung des Rechtes auf Anhörung ist bereits in Art. 30 Abs. 2 lit. b VwVG vorgesehen und somit zulässig.

Abschliessend lässt sich sagen, dass das Recht auf Anhörung bei der Anwendung eines automatisierten Einzelentscheides ausgeschlossen wird. Art. 19 E-DSG versucht das Recht auf Anhörung in gewissen Hinsichten zu wahren, jedoch ist zurecht die Diskussion über die Wahrung noch am Laufen, da die aktuelle Lösung von Art. 19 E-DSG noch nicht in allen Bereichen als optimal erscheint.

Nebst dem Anspruch auf Äusserung legt das rechtliche Gehör den zuständigen Behörden die Begründungspflicht eines von ihnen gefällten Entscheides auf.⁴¹ Die Begründungspflicht umfasst die Bekanntgabe der formell-gesetzlichen Grundlage, auf welche sich der Entscheid stützt.⁴² Art. 19 Abs. 4 E-DSG bildet diese Grundlage und gilt sowohl für Entscheide auf Bundes- wie auch auf kantonaler und kommunaler Ebene.⁴³

Bei den automatisierten Entscheidungen kommen zwei Arten von Begründungen in Frage. Zum einen die allgemeine Begründung der Funktionalität des Algorithmus. Zum anderen die einzelfallbezogene Begründung für die Gewichtung von Merkmalen, fallspezifische Entscheidungsregeln, Informationen über Referenzgruppen und so weiter.⁴⁴

Gemäss der Botschaft des Bundesrates sind nach Art. 19 E-DSG ausschliesslich die Art, die Menge, die Gewichtung und der Erhebungszeitraum der Daten offenzulegen.⁴⁵ Die allgemeine Funktionalität des Algorithmus ist für eine rechtlich genügende Begründung demnach nicht notwendig, um das rechtliche Gehör zu wahren.⁴⁶ Anderer Meinung ist Rechsteiner, welcher eine Notwendigkeit in der Auskunft über die Funktionalität des Algorithmus sieht, sobald dies für ein Verständnis der entscheidungswesentlichen Logik erforderlich ist.⁴⁷ Bei regelbasierten Algorithmen dürfte eine Nachvollziehbarkeit nur über die Begründung von Art, Menge und Gewichtung der Daten leichter fallen, da diese weitgehend der juristischen Denkweise gleichkommt.⁴⁸ Sobald jedoch der Algorithmus mit künstlicher Intelligenz ausgestattet ist, wird die Entscheidungsbegründung komplexer und es ist fraglich, ob nur mit den Angaben, die nach der Botschaft gefordert sind, eine rechtlich genügende Begründung gegeben werden kann.⁴⁹

Bei dem Recht auf Begründung ist auffallend, dass die Problematik nicht wie beim Recht auf Anhörung in der Abwägung liegt, sondern in der technologischen Entwicklung. Die Technologie muss sich den Voraussetzungen des rechtlichen Gehörs anpassen, um anwendbar zu sein. Dies insbesondere bei Algorithmen, ausgestattet mit künstlicher Intelligenz. Hier wäre ein Lösungsansatz für das Erfüllen der Begründungspflicht, den Algorithmus mit Funktionalitäten auszustatten, die seine Transparenz und somit Erklärbarkeit erhöhen.⁵⁰

Der Vergleich von Art. 19 E-DSG zu Art. 22 DSGVO zeigt, dass die Schweiz und die EU unterschiedliche Ansätze bezüglich dem automatisierten Einzelfallentscheid verfolgen. Während die EU durch ein Verbot von automatisierten Einzelentscheidungen eher den Gedanken der Überlegenheit des Menschen gegenüber Maschinen verfolgt, vertritt die Schweiz durch die grundsätzliche Erlaubnis der Automatisierung eher den Ansatz, dass Maschinen durchaus die menschliche Entscheidung teilweise ersetzen können. Dabei ist jedoch anzumerken, dass beide Artikel unter Umständen eine Erlaubnis vorsehen und somit die Automatisierung doch als teilweise geeignetes Mittel zur Entscheidungsfällung angenommen wird.

Des weiteren ist in der Diskussion des rechtlichen Gehörs im Rahmen von Art. 19 E-DSG auffallend, dass die vorgesehene Regulierung in gewissen Hinsichten das Grundrecht berücksichtigt und dadurch unterschiedliche Wirkungen mit sich bringt. Zum einen beschränkt Art. 19 E-DSG die Anwendung des automatisierte Einzelfallentscheides aufgrund von Abwägungen zwischen dem rechtlichen Gehör und der Automatisierung, wie beim Recht auf Anhörung dargelegt. Zum anderen ist der Artikel aber auch ein Antrieb für die Forschung, indem er die technologische Entwicklung in eine Richtung lenkt, dass auch ein tatsächlicher Mehrwert für die Gesellschaft geschaffen werden kann.

Abschliessend lässt sich sagen, dass im Diskurs über das rechtliche Gehör im Rahmen des E-DSG die zu Beginn gestellte ethische Frage nach der Überlegenheit der menschlichen Entscheidung zur maschinellen Entscheidung nicht zentral sein sollte, da sie im Rahmen der Gesetzgebung nicht zielführend ist. Vielmehr ist eine Klärung notwendig, wie das Datenschutzgesetz eine parallele Verwirklichung der Grundrechte und des technologischen Fortschrittes gewährleisten kann.

Claire Dentand, Studentin der Rechtswissenschaften mit Wirtschaftswissenschaften an der Universität St. Gallen (HSG).