Jusletter IT

Der weite Begriff «Künstliche Intelligenz» (KI), der z.B. Erscheinungen wie automatisierte Entscheidungsabläufe, algorithmische Programmierungen und auch juristische Sprachmodelle bzw. allgemein Large Language Models (LLM) umfasst, hat in den letzten Monaten erheblich an Bedeutung gewonnen. Nachfolgend wird ein umfassendes Begriffsverständnis der KI in Betracht gezogen, welches nicht nur die generative KI, sondern auch das Machine Learning und das Deep Learning mitumfasst. Die KI vermag grosse Mengen an Daten zu verarbeiten und daraus Muster und Zusammenhänge zu eruieren, die für menschliche Analysen nicht leicht erkennbar sind. Solche Fähigkeiten hat die KI zu einem wertvollen Werkzeug in einer Vielzahl von Bereichen gemacht, aber auch neue und komplexe Fragen in Bezug auf den Datenschutz aufgeworfen.

Entgegen verbreiteter Meinungsäusserungen ist die KI aber nicht nur eine Herausforderung für die Einhaltung der Datenschutzvorgaben, sondern algorithmische Programme können durchaus zur Verbesserung der Datensicherheit beitragen.¹ Beispiele sind (i) die Unterstützung bei der Detektion unerwünschter Inhalts, (ii) die Unterstützung bei der Berichterstattung zu Sicherheitsvorfällen, (iii) die Unterstützung bei der Erstellung und Analyse von Programmcodes (Untersuchungen mit Blick auf Sicherheitslücken) sowie (iv) die Unterstützung bei der Analyse des Datenverkehrs.² Datenschutz und KI stehen indessen in einem komplexen Wechselspiel zueinander; datenschutzrechtliche Vorgaben zur Anonymisierung von Daten oder der Grundsatz der Datensparsamkeit können etwa dazu beitragen, dass bestimmte KI-Techniken (z.B. Deep Learning), die eine Bearbeitung grosser Mengen persönlicher Daten bezwecken, nur sehr eingeschränkt Verwendung finden dürfen.³

Das Datenschutzrecht spielt in mehreren Phasen des KI-Einsatzes eine Rolle, nämlich (i) bei der Datenbeschaffung für den Aufbau eines KI-Systems, (ii) bei dessen Training, (iii) bei dessen Besitz und Betrieb sowie (iv) bei der praktischen Verwendung durch den Nutzer (Eingabe eines «Prompt»).⁴ Die «Bedrohung» des Datenschutzes durch den Einsatz von KI ist in den letzten Monaten bereits Gegenstand verschiedener wissenschaftlicher Untersuchungen und praktischer Handlungsempfehlungen gewesen;⁵ dass die Datenschutzregeln auf KI-Systeme grundsätzlich, wie der EDÖB zutreffend bemerkt,⁶ anwendbar sind, dürfte unbestritten sein. Angesichts der vorhandenen Literatur rechtfertigt es sich, den vorliegenden Beitrag auf spezifische Themen zu konzentrieren und nicht alle Problembereiche anzusprechen;⁷ die nachfolgenden Ausführungen beziehen sich demgemäss auf im Vordergrund stehende Herausforderungen, nämlich die DSG-Anknüpfungspunkte, die spezifischen Spannungsfelder zwischen KI und Datenschutz sowie einzelne Sonderfragen.

Der Datenverkehr läuft angesichts des nicht-physischen Charakters von Daten sehr oft grenzüberschreitend ab. Aus diesem Grunde lehnt sich das Schweizer Datenschutzgesetz (DSG) über weite Strecken an die Datenschutz-Grundverordnung der EU (DSGVO) von 2016 an; die Äquivalenz der Normenwerke ist denn auch anerkannt.⁸ Ungeachtet dieser Ausgangslage wird nachfolgend aber lediglich das DSG erörtert, und zwar deshalb, weil sich vom Regelungsansatz her betrachtet das DSG und die DSGVO grundlegend unterscheiden, denn das DSG beruht auf dem Prinzip der Zulässigkeit der Datenbearbeitung mit Verbotsvorbehalt, die DSGVO hingegen auf dem Prinzip des Verbots mit Erlaubnisvorbehalt.⁹ Zwar löst sich dieser prinzipielle Unterschied in vielen praktischen Aspekten auf, doch gerade beim Einsatz von KI ergeben sich nicht selten unterschiedliche Rechtseinschätzungen, was die Konzentration dieses Aufsatzes auf das DSG legitimiert.¹⁰

Die beiden grundsätzlichen Regelungsziele des DSG sind der Schutz von Personendaten und die Gewährleistung der Datensicherheit. Das Ziel der Regulierungen besteht darin, normative Vorgaben auf der Basis des Grundsatzes der Technologieneutralität zu realisieren.¹¹

Der Begriff der Personendaten ist im DSG sehr weit gefasst; nicht nur identifizierte Personen, sondern ebenso bestimmbare Personen geniessen den Schutz des DSG. Der Begriff der Bearbeitung umfasst jeden Umgang mit Personendaten (z.B. das Beschaffen, Speichern, Aufbewahren, Verwenden, Verändern, Bekanntgeben, Offenlegen, Archivieren, Löschen und Vernichten der Daten, Art. 5 lit. d DSG). Ausserhalb des Anwendungsbereichs des DSG liegen deshalb nur die Sachdaten und die anonymisierten bzw. pseudonymisierten Daten¹² sowie die Datenbearbeitung zu nicht-personenbezogenen Zwecken.¹³

Im Kontext der KI ist zu differenzieren zwischen den Personendaten als «Input» und den Personendaten als «Output»; die Differenzierung ist relevant, weil diejenigen Personen, welche die DSG-Vorschriften beachten müssen (Verantwortlicher oder Auftragsbearbeiter), nicht identisch sind.¹⁴ Im Lichte der vorerwähnten Phasen des KI-Einsatzes fallen der Aufbau eines KI-Systems, dessen Training und dessen Besitz/Betrieb in den «Input»-Bereich, während die möglichen Verwendungen zum «Output»-Bereich gehören.¹⁵

Mit «Input» ist konkret gemeint, dass die Eingaben zur Verwendung eines KI-Systems keine geschützten Personendaten enthalten dürfen, sofern nicht sichergestellt ist, dass der Anbieter des KI-Systems sich bei der weiteren Arbeit mit dem KI-System an die Datenschutzvorgaben hält. Personendaten können in den von den Benutzern eingegebenen «Prompts» enthalten sein, aber sich auch aus dem Sammeln von Daten aus öffentlichen Quellen (durch ein sog. «Crawlen») ergeben.¹⁶ Seitens des KI-Anbieters dürfen die allenfalls übermittelten Personendaten wegen des Grundsatzes der Zweckbindung insbesondere nicht für andere Zwecke verwendet werden (z.B. das Training eigener Modelle)¹⁷ und es sind technische Vorsichtsmassnahmen geboten, wenn ein Outsourcing der Datenbearbeitung erfolgt oder wenn sich der Auftragsbearbeiter im Ausland befindet.

Datenschutzrechtliche Problembereiche, welche die durch KI-Systeme verfügbar gemachten «Outputs» betreffen, sofern Personendaten enthalten sind, bestehen insbesondere mit Blick auf drei Erscheinungen:¹⁸ (i) KI-Systeme können «halluzinieren», d.h. Inhalte erfinden, die dem Benutzer als wahre Informationen erscheinen. (ii) Outputs von KI enthalten ggf. ungewollt Personendaten. (iii) Der Output der KI verzerrt allenfalls die Daten, d.h. es entsteht ein «Bias», der mit Blick auf die datenschutzrechtlichen Grundsätze der Richtigkeit, Verhältnismässigkeit sowie von Treu und Glauben zu Problemen führt. In allen drei Situationen sind die datenschutzrechtlichen Herausforderungen anhand der konkreten Gegebenheiten zu analysieren.

Ein wichtiger Aspekt des Datenschutzrechts ist die Datensicherheit (Art. 8 DSG). Wie erwähnt¹⁹ dürfen beim Stichwort «Datensicherheit» nicht nur mögliche Risiken der KI in Betracht gezogen werden, sondern die Verwendung von KI-Systemen vermag auch zu einer Erhöhung der Datensicherheit beizutragen, weil solche Systeme strukturierte Programmabläufe ermöglichen.

Als Risiken von KI-Programmen und algorithmischen Verfahren lassen sich die fehlende Vertraulichkeit der eingegebenen Daten, die mangelnde Faktizität und Reproduzierbarkeit, die ungenügende Aktualität, die fehlerhafte Reaktion auf spezifische Eingaben und die Anfälligkeit für «versteckte» Dateninfiltrationen mit manipulativer Absicht identifizieren. Konkrete Risikosituationen betreffen (i) das Social Engineering (z.B. durch Preisgabe von Daten, Umgehung von Schutzmassnahmen, Installierung eines Schadcodes), (ii) den Einsatz von Malware (z.B. Erzeugung eines Schadcode ohne viel Hintergrundwissen dank ausgereifterer Code-Generierungsfähigkeiten, selbst bei Vorhandensein polymorpher Schadsoftware) und (iii) das Auftreten einer sog. «Hoax» (z.B. Falschmeldung wegen Desinformation oder Propaganda).²⁰

Die Datensicherheit ist mindestens so sehr eine technische wie eine rechtliche Herausforderung; aus diesem Grunde konzentrieren sich die nachfolgenden Ausführungen auf den vorgenannten Schutz von Personendaten.

Die Zahl der Spannungsfelder zwischen KI und Datenschutz ist gross; neben einer kurzen Erläuterung von einzelnen weniger zentralen Themenfeldern und Sonderfragen kommen schwergewichtig die Datenbearbeitungsgrundsätze, die Rechtfertigungsgründe, die automatisierten Einzelentscheidungen und die Verwendung von «Output»-Daten zur Sprache.

Das DSG geht (wie erwähnt im Gegensatz zur DSGVO) vom Grundsatz aus, dass eine Datenbearbeitung zulässig ist, wenn der Verantwortliche die gesetzlich statuierten Datenbearbeitungsprinzipien einhält, es gilt also kein Erlaubnisvorbehalt. Die Beschaffung und Bearbeitung von Personendaten setzen im Kontext der Entwicklung, des Trainings, der Validierung und des Testens von KI-Systemen aber insbesondere die Beachtung der folgenden Datenschutzprinzipien voraus:²¹

• Grundsatz der Erkennbarkeit: Oft ist die Beschaffung und Bearbeitung von Personendaten für die Betroffenen nicht erkennbar, weil die Daten vom KI-System aus verschiedenen Quellen bezogen werden, ohne dass die betroffenen Personen eine Information erhalten.
• Grundsatz der Zweckbindung: KI-Systeme bearbeiten Daten oft zu einem anderen Zweck als demjenigen, der bei der ursprünglichen Beschaffung relevant gewesen ist, insbesondere im Falle eines «General Purpose AI-Systems».²²
• Grundsatz der Datenminimierung: Die Verwendung von mehr Daten durch KI-Systeme verbessert meist die Ergebnisse, d.h. den «Output», was aber dem Ziel der Datenminimierung widerspricht.
• Grundsatz der Speicherbegrenzung: Zwar werden die verwendeten Personendaten regelmässig nicht im trainierten KI-System gespeichert, doch entsteht ein DSG-Problem, sofern nach Abschluss der Entwicklung eine Speicherung in einer gesonderten Datenbank erfolgt.

Ein weiterer zentraler Grundsatz der Datenbearbeitung ist die Datenrichtigkeit; der Verantwortliche muss sich vergewissern, dass die gesammelten Daten während der ganzen Aufbewahrungsdauer ihre Richtigkeit behalten.²³ In Frage steht also die inhaltliche Korrektheit der Daten und die Vermeidung von Fehlinformationen, was bei grossen KI-Systemen die Einrichtung umfangreicher technischer Sicherheitsvorkehren notwendig macht.

Der Einsatz von KI führt nicht in jeder Situation zu einer ungenügenden Beachtung der Datenbearbeitungsgrundsätze, vielmehr sind Einzelfall-Analysen durchzuführen; für gewisse Zwecke von KI-Trainings mag die Verwendung möglichst vieler Informationen ungeachtet des Datenminimierungsgebots sinnvoll sein, um dem Grundsatz der Datenrichtigkeit Genüge zu tun.

Überdies lässt sich die Datenbearbeitung durch Rechtfertigungsgründe legitimieren, die hernach im Einzelnen zu beurteilen sind.

Weil das DSG vom Grundsatz der Zulässigkeit der Bearbeitung von Personendaten im Falle der Einhaltung der Datenbearbeitungsprinzipien ausgeht bzw. im Falle der Nichteinhaltung den Nachweis einer Rechtfertigung der Datenbearbeitung einschränkt, haben die Rechtfertigungsgründe (Art. 31 DSG) eine grosse praktische Bedeutung. Nachfolgend wird der für KI-Systeme zentrale Aspekt der Datenbearbeitung zu nicht-personenbezogenen Zwecken gesondert, vor den allgemeinen Rechtfertigungsgründen, erläutert.²⁴

Zu den überwiegenden Interessen des Verantwortlichen für eine Datenbearbeitung gehört der Rechtfertigungsgrund der Bearbeitung zu nicht-bezogenen Zwecken (Art. 31 Abs. 2 lit. e DSG);²⁵ im Vordergrund stehen dabei Forschung, Planung oder Statistik. KI-Systeme zielen in der Praxis oft darauf ab, nicht Erkenntnisse mit Bezug auf spezifische Personen zu gewinnen, sondern Programme zu entwickeln, welche bestimmte Aufgaben möglichst gut zu erfüllen in der Lage sind. Eine solche Bearbeitung ist nicht vornehmlich personenbezogen.

Immerhin setzt dieser Rechtfertigungsgrund auch die Erfüllung weiterer Voraussetzungen voraus:²⁶ (i) Sobald der Bearbeitungszweck es erlaubt, sind die Daten zu anonymisieren; technische Massnahmen ermöglichen in der Praxis oft eine solche Anonymisierung von KI-Systemen. (ii) Im Falle der Bearbeitung von besonders schützenswerten Personendaten darf eine Bekanntgabe an Dritte nur so erfolgen, dass die betroffene Person nicht bestimmbar ist; meist lässt sich diese Voraussetzung wohl erfüllen. (iii) Die Veröffentlichung von Ergebnissen muss in einer Art erfolgen, dass die betroffenen Personen nicht bestimmbar sind. Ob diese Anforderung bei KI-Systemen erfüllt ist, hängt von der konkreten «Veröffentlichung» der entsprechenden Daten ab.

Im Einzelnen ergeben sich aber schwierige Abgrenzungsfragen bei der Beurteilung der Datenbearbeitung zu «nicht-personenbezogenen Zwecken» oder auch beim «überwiegenden Interesse» an der Datenbearbeitung gemäss Art. 31 Abs. 2 DSG; zutreffend nimmt die Lehre in neuester Zeit diese Rechtfertigungsgründe etwas genauer unter die Lupe.²⁷

Weil der Auslegungsspielraum für die Gerichte relativ gross ist, stellt sich die Frage, ob der Gesetzgeber die gegebene Liste für das Vorliegen eines überwiegenden Interesses (Art. 31 Abs. 2 DSG) um ein weiteres Beispiel (Datenbearbeitung für das Trainieren, Validieren und Testen von KI-Systemen) ergänzen oder ob der EDÖB in einem Leitfaden bzw. Merkblatt klarstellen sollte, dass die Inbetriebnahme eines KI-Systems nicht als Veröffentlichung von Ergebnissen gilt.²⁸ Einzelne Stimmen gehen demgegenüber von einer normativen Kraft des Faktischen bzw. einer «sozialen Realität» aus, die wohl darauf hinauslaufe, dass gewisse «Datenschutz-Beeinträchtigungen» durch KI-Systeme von der Gesellschaft mit der Zeit hingenommen würden.²⁹

(i) Der aus der Sicht des Gesetzgebers naheliegendste Grund für eine Rechtfertigung der Datenbearbeitung ist die Einwilligung der betroffenen Person. Im KI-Kontext hat dieser Grund indessen praktisch nur eine geringe Bedeutung: Die Einholung der Einwilligung des Betroffenen ist beim «Input» von Daten in KI-Systeme sehr schwierig und mit hohen Hürden verbunden;³⁰ deshalb ist es wenig erstaunlich, dass eine Umfrage des Vereins Unternehmens-Datenschutz bei seinen Mitgliedern im Jahre 2023 zum Ergebnis kam, die Einwilligung stelle bei den meisten Unternehmen nur in 10%-20% der Fälle einen Rechtfertigungsgrund dar.³¹

Zudem führen selbstlernende Algorithmen über die Zeit zu Veränderungen in der Datenbearbeitung, die zu Beginn ggf. nicht vorausgesehen werden konnten; dementsprechend deckt sogar eine erfolgte Einwilligung neue, ursprünglich nicht bekannte Vorgänge in KI-Systemen nicht ab. Weil es somit an der Einwilligung im Rahmen von KI-Systemen regelmässig fehlt, haben andere Rechtfertigungsgründe eine grössere praktische Bedeutung.³²

(ii) Die Berufung auf ein berechtigtes Interesse des Verantwortlichen ist – ausser in bestimmten Konstellationen mit besonders schützenswerten Personendaten – dann in Betracht zu ziehen, wenn das KI-System höherwertigen Zielen dient. Das Spannungsfeld zwischen DSG- und KI-Interessen, das sich nicht gestützt auf allgemeine Überlegungen, sondern vielmehr nur mit Blick auf die konkreten Umstände auflösen lässt, hat im Artificial Intelligence Act (AIA) der EU eine besondere Regelung erfahren: So findet sich in Art. 10 Ziff. 5 AIA eine Anordnung zur Bearbeitung von besonderen Personendaten-Kategorien für das Entdecken und Korrigieren von Verzerrungen («Biases»): Anbieter von KI-System sind insbesondere verpflichtet, angemessene Garantien für die Grundrechte und die Grundfreiheiten der Betroffenen einzurichten.³³

(iii) Überdies ist in diesem Kontext auch das Spannungsfeld zwischen der öffentlichen Information und dem Datenschutz zu beachten (Art. 31 Abs. 2 lit. f DSG). KI-Systeme sammeln nicht nur Personendaten, sondern durch ein oft umfassendes «Crawlen» auch sog. öffentliche Informationen. Datenschutzrechtlich scheint das «Crawlen» auf den ersten Blick nicht problematisch zu sein, denn grundsätzlich verfügen Informationen aus öffentlich verfügbaren Quellen nicht über einen besonderen Schutz. Dennoch ist nicht zu übersehen, dass nach Auffassung des EDÖB auch veröffentlichte Personendaten weiterhin vom Datenschutz erfasst sind und nicht frei verwendet werden dürfen.³⁴

Die Spezialregelung von Art. 30 Abs. 3 DSG privilegiert den Verwender öffentlicher Inhalte lediglich unter dem Vorbehalt, dass der Inhalt mit Zustimmung der betroffenen Person allgemein zugänglich gemacht und der Nutzung im Einzelfall nicht widersprochen worden ist.³⁵ Das Öffentlichkeitsinteresse an KI-Systemen allgemein ist überdies ein Thema des nachfolgend detaillierter zu erörternden Transparenzprinzips.³⁶

In neuester Zeit stellen grosse KI-Anbieter zudem in Aussicht, in ihren (versteckten) Datenschutzbestimmungen eine Einwilligung der Vertragspartner vorzusehen, die besagt, dass auch «Informationen, die über die Produkte und Dienstleistungen von Meta geteilt werden», für die Bearbeitung in KI-Systemen herangezogen werden können;³⁷ erfasst sind damit Daten, Fotos usw., die von den Nutzern täglich auf den Plattformen hochgeladen werden; ob eine solche Einwilligung der Betroffenen den Klarheitsvorgaben des DSG Genüge tut, erscheint immerhin als sehr zweifelhaft und hat denn auch die EU-Datenschutzbehörden bereits auf den Plan gerufen.

Vorausschauend haben Art. 22 DSGVO und Art. 21 DSG schon vor einem breiten Einsatz von KI-Systemen eine Regelung zu den automatisierten Einzelentscheidungen eingeführt; inhaltlich geht der kurz zu erläuternde Art. 21 DSG weniger weit als der umfassendere Art. 22 DSGVO.³⁸ Bei der automatisierten Bearbeitung von Personendaten unterliegt der Verantwortliche einer Informationspflicht an die Betroffenen, falls die Bearbeitung eine rechtliche Wirkung für die betroffene Person entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt.³⁹ Automatisierte Bearbeitungen kommen insbesondere in KI-Systemen vor, die auf maschinellem Lernen basieren und die in der Lage sind, komplexe Vorhersagen oder Entscheidungen ohne menschliches Zutun zu treffen.⁴⁰

Die betroffene Person hat das Recht, Widerspruch gegen eine automatisierte Einzelentscheidung einzulegen, ausser wenn diese Entscheidung für den Abschluss oder die Erfüllung eines Vertrags zwischen der betroffenen Person und dem Verantwortlichen erforderlich ist oder ein öffentlich-rechtlicher Rechtfertigungsgrund vorliegt.⁴¹ Die Auslegung dieser Gründe kann nach den allgemeinen Grundsätzen erfolgen, weil sie nicht KI-spezifisch sind.

Ein für KI-Systeme besonders relevantes Problem von Art. 21 DSG liegt darin, dass der Gesetzeswortlaut verlangt, es müsse sich um «ausschliesslich» automatisierte Datenbearbeitungen (ohne Dazutun einer natürlichen Person) handeln (Abs. 1). Dieser Tatbestand mag bei ADM-Systemen («algorithmic decision-making») und beim Profiling von Personen in der Regel vorliegen.⁴² Im Kontext des Einsatzes grosser KI-Systeme findet aber nicht selten zusätzlich noch ein nicht automatisiertes Monitoring im Sinne einer Plausibilitätsüberprüfung statt, was an sich die Erfüllung des Kriteriums «ausschliesslich» in Frage stellt. Die Lehre geht davon aus, dass nicht das «Können» einer Beeinflussung der Entscheidung durch eine natürliche Person massgebend ist, sondern die Frage, «ob eine Überprüfung […] durch eine natürliche Person tatsächlich erfolgt, welche zudem rechtlich und faktisch in der Lage wäre, den maschinell getroffenen Entscheid umzustossen».⁴³

Wie erwähnt, ist bei KI-Systemen zwischen dem «Input» und dem «Output» zu differenzieren. Auch bei der Verwendung von Personendaten («Output») sind in vergleichbarer Weise die zuvor erläuterten Grundsätze der Datenbearbeitung zu beachten. Zusätzlich gewinnt aber der Grundsatz der Richtigkeit der Daten an Bedeutung;⁴⁴ gerade im Kontext von KI-Systemen ist von besonderer Bedeutung, dass sich die Richtigkeit mit Blick auf den Zweck der Datenbearbeitung beurteilt und dieser Zweck dem Risiko einer «Halluzination» (z.B. durch frei erfundene Angaben über Personen) unterliegt.⁴⁵ Werden «Prompts» (mit Personendaten) von KI-Nutzern eingegeben und hernach verarbeitet, hat der Betreiber von KI-Systemen beim «Output»-Angebot oft die Rolle eines Auftragsbearbeiters.⁴⁶

Gelingt es einem Dritten, durch gezielte Abfragen bzw. Attacken einzelne Personendaten von Betroffenen aus KI-Systemen zu entnehmen, die z.B. zu Trainingszwecken verwendet worden sind, liegt ggf. ein (unfreiwilliges) Bekanntgeben von Personendaten (Art. 5 lit. e DSG) vor. Das Bekanntgeben muss den Datenbearbeitungsgrundsätzen genügen; der Betreiber des KI-Systems unterliegt deshalb zudem dann einem Haftungsrisiko, wenn er den anwendbaren Datensicherheitsvorkehren nicht genügt.⁴⁷ Im Einzelnen können  sich überlagernde Datenbearbeitungen aber schwierige Abgrenzungsprobleme hervorrufen: Der KI-Nutzer trägt die Verantwortung, wenn er die «Prompts» mit den Personendaten nicht sachgerecht gemäss den technischen Vorgaben des KI-Anbieters implementiert; der Betreiber des KI-Systems hat für die DSG-kompatible Bearbeitung der Personendaten einzustehen.⁴⁸

Die Verantwortlichen haben die Pflicht, die betroffenen Personen über die Verarbeitung ihrer Daten zu informieren (Art. 19 ff. DSG). Diese über die erwähnte Aufklärung zu den automatisierten Einzelentscheidungen⁴⁹ hinausgehenden Informationspflichten stellen einen zentralen Pfeiler des Datenschutzrechts dar. Einerseits wird durch die Informationen die Transparenz der Datenbearbeitung erhöht und andererseits ermöglichen die Informationen den betroffenen Personen die Ausübung ihrer Auskunfts- und Korrektur- bzw. Widerrufsrechte.

Der Anbieter von KI-Systemen hat demgemäss die KI-Nutzer darüber zu informieren, wie ihre Daten konkret bearbeitet werden, unter Hinweis auf die Zwecke der Bearbeitung und die verwendeten Algorithmen.⁵⁰ Im Falle der Beurteilung von Kreditrisiken ist der Nutzer eines KI-Systems zum Beispiel darüber zu informieren, welche Daten (z.B. Kreditverlauf, Einkommen, Alter) konkret Verwendung finden, wie die Datenbearbeitung erfolgt und wie das System seine Vorhersagen trifft. Die Verfügbarkeit der Information ist im Übrigen auch deshalb relevant, weil ggf. Auskunftsansprüche vom Betroffenen geltend gemacht werden, die zur Herausgabe von Informationen zwingen.⁵¹

Die Informationspflichten verursachen aber grosse Herausforderungen im Kontext der KI-Systeme; Algorithmen sind oft komplex und für Nicht-Experten schwer zu verstehen.⁵² Transparente Information bedeutet, dass gemäss den Prinzipien der Erklärbarkeit und Nachvollziehbarkeit den KI-Nutzern verständlich zu machen ist, wie und mit welchem Zweck die Datenbearbeitung abläuft.⁵³ Abgesehen von der in vielen Situationen vorliegenden Schwierigkeit, eine sachgerechte «Aufklärung» vorzunehmen, erweist sich auch eine Abwägung zwischen den Interessen der KI-Nutzer an der Kenntnis über die datenbezogenen Vorgänge und den Interessen der Anbieter von KI-Systemen an der Vertraulichkeit individueller Programmierungen, die auf dem Konzept des Unternehmensgeheimnisses basiert, als notwendig.⁵⁴

Überdies ermöglicht es die Technik, dass sich Algorithmen im Laufe der Zeit «selbstständig» anpassen bzw. verfeinern und damit das KI-System weiterentwickeln, was die Übermittlung von Informationen an die Nutzer des KI-Systems erschwert. In solchen Fällen wäre an sich eine repetitive Information sachgerecht; in welcher Art und Weise in dieser Konstellation die Information in klarer und nachvollziehbarer Weise bereitgestellt werden kann, um das Recht der Nutzer auf Information zu gewährleisten, stellt die Anbieter von KI-Systemen aber vor nicht zu unterschätzende Probleme und muss Anlass für eine verbesserte «Medienkompetenz» der Mitarbeitenden sein.⁵⁵

Fehlt es an der Beachtung der Datenbearbeitungs- oder Datenverwendungsgrundsätze im Kontext eines KI-Systems, stellt sich die Frage, wer die Verantwortung für eine etwaige DSG-Verletzung zu übernehmen hat. Im Vordergrund steht der Ersteller bzw. Besitzer und damit typischerweise der Anbieter, nicht der Kunde des KI-Systems; datenschutzrechtlich liegt der Anknüpfungspunkt nämlich bei der Festlegung der wesentlichen Parameter (Zweck und Mittel) der Datenbearbeitung (Art. 5 lit. j DSG).⁵⁶

Die Haftungszuordnung ist deshalb mit Schwierigkeiten behaftet, weil oft nicht klar ist, wer in welchem Stadium ggf. Daten bearbeitet.⁵⁷ Auch der Auftragsbearbeiter kommt bei Datenbearbeitungen in der Cloud als verantwortliche Person in Betracht. Im Falle von reinen Hosting-Tätigkeiten vermag unter Umständen eine Haftungsbeschränkung gestützt auf die Grundsätze der Hosting-Provider-Haftung einzutreten.⁵⁸

Trainingsdaten lassen oft keinen direkten Schluss auf bestimmbare Personen zu; soweit es am Kriterium der Bestimmbarkeit fehlt, entfallen die datenschutzrechtlichen Herausforderungen. In der Regel erfolgt die Verschlüsselung der Personendaten im Laufe bzw. am Ende des Lernprozesses; in neuerer Zeit wird aber vermehrt diskutiert und technologisch versuchsweise umgesetzt, Lösungen für eine Verschlüsselung bereits vor dem Lernprozess zu implementieren.⁵⁹ In einem solchen Fall wäre der Personenbezug nicht nachvollziehbar, was die DSG-Relevanz beseitigen würde.

Wird der Personenbezug von Trainingsdaten nicht ausgeschlossen, ergibt sich bei ihrem Einsatz das Problem, dass der finale Bearbeitungszweck oft vom ursprünglichen Datenbearbeitungszweck abweicht. In einer solchen Konstellation stellt sich die Frage, ob eine Zweitverwertung vorliegt; verschiedene Formen der Zweitverwertung von Daten haben eine immer grössere Bedeutung und rufen nach einer datenschutzrechtlichen Beurteilung.⁶⁰

Nach dem revidierten DSG (Art. 6 Abs. 3) muss der Zweck einer Zweitverwertung für die betroffene Person bereits bei der Beschaffung von Daten mindestens erkennbar sein; der «Sekundärzweck» (wie z.B. das Training der KI) ist deshalb dann vom Zweckbindungsgrundsatz gedeckt, wenn er mit dem ursprünglichen «Primärzweck» vereinbar und für den Betroffenen in der Entwicklung auch nachvollziehbar ist.⁶¹

Ein grundlegendes Problem beim Einsatz von KI-Systemen besteht – wie erwähnt – in der mangelnden Transparenz mit Bezug auf deren Funktionsweise (z.B. Einsatz von Algorithmen, angewendete Methoden); akzentuiert wird das Risiko der Intransparenz bei den kaum steuerbaren selbstlernenden Algorithmen.⁶² Die Transparenz ist denn auch im dichten Regulierungswerk des AIA der EU ein zentrales Thema.⁶³

Selbst soweit es datenschutzrechtlich gesetzliche Transparenzanforderungen gibt, wie z.B. mit Blick auf automatisierte Entscheidungen (Art. 21 DSG), ist deren Wirkung nicht zu überschätzen.⁶⁴ Empirische Untersuchungen zu den vorhandenen daten- und verbraucherschutzrechtlichen Informationspflichten lassen nämlich daran zweifeln, ob die gesetzlich geforderte Transparenz stets einen Mehrwert für die betroffenen Personen generiert und ihren angedachten Zweck erfüllt.⁶⁵ Die zur Verfügung gestellten Informationen sind oft nicht ausreichend verständlich und überfordern angesichts der Informationsintensität (Länge, Detaillierungsgrad) die betroffenen Personen.⁶⁶

Weiter müssen KI-Systeme grundsätzlich erklärbar und interpretierbar sein, um den betroffenen Personen die Nachvollziehbarkeit von algorithmischen Vorgängen zu ermöglichen. Notwendig ist somit, abhängig vom Wissenshorizont des Betroffenen und der Bedeutung der Vorgänge, eine ausreichende Verständlichkeit, d.h. die zugrunde liegende Logik hat auch begreiflich zu sein, was bei komplexen technischen Vorgängen nur schwer zu erreichen ist.⁶⁷

Das DSG scheibt beim Einsatz von KI-Systemen im Rahmen der Bearbeitung von Personendaten nicht ausdrücklich eine Information der Betroffenen vor. Bearbeiten indessen KI-Anbieter die Daten von betroffenen Personen in einer Art und Weise, mit welcher nicht hat gerechnet werden müssen, und die sich in relevanter Weise negativ auswirken kann, macht der Grundsatz der Transparenz eine Information erforderlich, selbst wenn Art. 19 DSG nicht direkt als Rechtsgrundlage herangezogen werden kann.⁶⁸

Bei den Betroffenenrechte stehen die Auskunftsrechte sowie die Ansprüche auf Widerspruch und Korrektur im Vordergrund.

Das Auskunftsrecht setzt voraus, dass der Betreiber eines KI-Systems tatsächlich Personendaten verarbeitet; die betroffene Person hat diesen Nachweis zu erbringen, was in der Realität oft nicht einfach sein dürfte, weil meist unklar ist, wer oder was in einem KI-System zu finden ist bzw. wer welche Datenbearbeitung vorgenommen hat.⁶⁹

Wie der Verantwortliche im Einzelfall seiner Auskunftspflicht nachzukommen vermag, ist technisch noch wenig geklärt;⁷⁰ vorgenommene Tests haben nicht wirklich befriedigende Resultate bzw. konkrete Antworten z.B. von ChatGPT gebracht.⁷¹ Oft dürfte der Anbieter eines KI-Systems die Auskunft geben, dass keine Personendaten gesammelt worden seien, mangels Transparenz fehlt dem KI-Nutzer indessen der Einblick in das KI-System und das Auskunftsbegehren droht in die Leere zu laufen. Würde in Betracht gezogen, die Auskunft auf alle bisher generierten Antworten zur betroffenen Person in einem bestimmten KI-System zu erstrecken, wären, jedenfalls wenn es ich um ein grosses System handelt, die entsprechenden Antworten nicht oder nur beschränkt verfügbar, weil die Aufbewahrungszeit typischerweise relativ kurz ist.⁷²

In der Praxis einfacher durchzusetzen sind die Widerspruchs- und Korrekturansprüche (Recht auf Vergessen).⁷³ Gewisse Anbieter, z.B. OpenAI für Chat-GPT, stellen ein entsprechendes Formular auf der Webseite zur Verfügung.⁷⁴ Hernach wäre über das Mittel des Auskunftsrechts zu prüfen, ob die Löschung auch wirklich durchgeführt worden ist.⁷⁵

Alternativ zur Löschung erscheint es als denkbar, dass der Anbieter des KI-Systems mittels technischer Massnahmen sicherstellt, dass die betroffenen Personendaten im «Output» des Systems nicht mehr vorkommen; damit wird derselbe Zweck erreicht wie mit der tatsächlichen Löschung.⁷⁶

Angesichts der vorerwähnten, nicht zu vernachlässigenden Rechtsunsicherheiten im Verhältnis zwischen Datenschutz und KI erscheint es als sinnvoll, wenn sich Anbieter und Betreiber von KI-Systemen, die Personendaten verarbeiten, eine Checkliste bereitlegen, um die DSG-Herausforderungen möglichst weitgehend erfüllen zu können. Folgende Fragen sind insbesondere für Betreiber mittlerer und grosser KI-Systeme relevant:⁷⁷

• Verarbeitet das KI-System auch Personendaten?
• Ist die Funktionsweise des KI-Systems nachvollziehbar?
• Ersetzt das KI-System ein anderes System?
• Kann das KI-System direkt oder indirekt negative Auswirkungen auf besonders schützenswerte Personendaten haben?
• Wird der Grundsatz der Datenminimierung eingehalten?
• Ist die datenschutzrechtliche Rollenverteilung klar festgelegt?
• Nimmt das KI-System automatisierte Einzelentscheidungen vor?
• Wird ein Large Language Model in der Datenbearbeitung verwendet?
• Erhält der Nutzer adäquate Informationen über den Einsatz von KI-Programmen?
• Auf welcher Grundlage erfolgt der Einsatz des KI-Systems?
• Ist der Einsatz des KI-Systems überhaupt grundrechtskonform möglich?
• Liegen transparente und nachvollziehbare Informationen über die Algorithmen vor?
• Sind angemessene Datensicherheitsvorkehren eingerichtet?
• Werden die Grundsätze der «Privacy by Design» und der «Privacy by Default» eingehalten?
• Ist die Vornahme einer Datenschutz-Folgeabschätzung nötig? Wenn ja, wird sie durchgeführt?
• Erfolgt die Erfüllung der Informationspflichten sachgerecht?
• Können die Auskunfts- und Widerspruchsrechte der Betroffenen eingehalten werden?

Die Beachtung einer solchen Checkliste bedeutet nicht, dass die DSG-Komptabilität eines KI-Systems zweifelsfrei sichergestellt ist, aber zumindest wird ein sinnvoller Beitrag zur DSG-Vereinbarkeit der Bearbeitung von Personendaten geleistet. Wichtig ist in jedem Fall, dass der Betreiber eines KI-Systems intern Vorsorge trifft, dass sich die Mitarbeitenden der Datenschutz-Problematik bewusst sind und entsprechend handeln. Das Schweizer DSG statuiert nicht unüberwindbare Hürden (jedenfalls weniger als die DSGVO im grenzüberschreitenden Datenverkehr); mit angemessenen Datenschutzvorkehren lassen sich KI-Systeme durchaus erfolgreich nutzen.

Prof. Dr. Rolf H. Weber, Professor für internationales Wirtschaftsrecht an der Universität Zürich, dort Co-Leiter des «Center for Information Technology, Society, and Law» und des «Blockchain Center» sowie Rechtsanwalt in Zürich (Bratschi AG). Alle Internetseiten wurden zuletzt geprüft am 17. Juni 2024.