zur Übersicht

Just in: Neue KI-Orientierungshilfe der Datenschutzbehörden

Die Datenschutzkonferenz hat am 06. Mai 2024 eine Orientierungshilfe zur Auswahl, Implementierung und Nutzung von bestimmten KI-Lösungen veröffentlicht.

Die Datenschutzkonferenz (DSK) ist ein gemeinsamer Ausschuss der Datenschutzbehörden von Bund und Ländern. Und die Orientierungshilfe ist genau das; sie ist weder Gesetz noch behördliche Anordnung, sondern sie soll Leitplanken aufzeigen. In diesem Fall sogar mit Datenschutz-Poesie (wen’s interessiert, siehe Seite 13 unten).

Die Orientierungshilfe richtet sich dabei vornehmlich an Anwender von Large Language Models (LLM). Sie wiederholt dabei einerseits vieles Bekanntes aus der DSGVO-Compliance (Rechtsgrundlage, Zweckbindung, Datenschutzfolgenabschätzung usw.). Und reflektiert andererseits Vorgaben der neuen EU KI-Verordnung. Der Natur einer Orientierungshilfe der DSK entsprechend, handelt es sich in erster Linie um eine mit praktischen Beispielen unterfütterte Erörterung von zu vermeidenden oder zu minimierenden Risiken aus Aufsichtssicht. Hier anhand der Prozessschritte Konzeptionierung, Implementierung und Nutzung von KI-Systemen.

Wir fassen nachstehend die Kernthemen zusammen, die die DSK beschreibt. Und destillieren die Handlungsempfehlungen aus den 15 Seiten Orientierungshilfe zur leichteren… Orientierung, worauf Behörden Wert legen. Denn viel Neues ist für diejenigen, die das Thema bereits verfolgen, leider nicht dabei.

Risiken von LLM aus Sicht der DSK

Risiko KI-System allgemein

Vor der Verwendung von LLM sollten Unternehmen sich mit den Einsatzfeldern (zulässig/unzulässig, mit personenbezogenen Daten/ohne Personenbezug), den Einsatzzwecken und den datenschutzrechtlichen Rechtsgrundlagen, (gemeinsame?) Verantwortlichkeiten und Risiken (auch ob es sich um besondere Kategorien personenbezogener Daten, wie Gesundheitsdaten handelt) auseinandersetzen und Datenschutzbeauftragte und ggfs. Betriebsräte einbinden und umfangreich informieren.

So weit, so logisch für diejenigen mit einem vorhandenen Datenschutz-Management. Und daher hier auch nicht weiter ausgeführt.

Dann wird es interessant. Die DSK wünscht nämlich im Lichte von festgestellten Risiken möglicherweise Unmögliches:

Risiko Diskriminierung / Bias

Hier warnt die DSK insbesondere vor „geerbten“ Herausforderungen: Denn auch wenn der Anwender einer KI keine Informationen über die Datensätze hat, mit denen diese trainiert wurde, muss er trotzdem sicherstellen, dass sich mögliche Fehler oder Verzerrungen des KI-Systems nicht auf seine Datenverarbeitung auswirken. Wird z. B. eine KI im Recruiting zur Unterstützung bei der Bewerberauswahl eingesetzt, darf sich ein möglicher Bias zu Lasten bestimmter Gruppen, der in den Trainingsdaten angelegt ist, nicht auf die Bewerber auswirken, die diesen Gruppen angehören.

Risiko Fehler und Halluzination

Da insbesondere LLM unzutreffende Informationen in einer sehr überzeugenden Form präsentieren und – je nach KI-System – halluzinieren, sich also eine Antwort ausdenken, sollten die (personenbezogenen) Daten aus dem Output eines KI-Systems mit einer angemessenen Skepsis verarbeitet werden. Und – hier wird es spannend – sie sollten auch nachhaltig korrigiert werden können. Die DSK schlägt hierfür ein Nachtraining der KI vor. Das setzt allerdings voraus, dass man als bloßer Anwender des LLM diese Eingriffsmöglichkeit überhaupt hat.

Risiko Datendynamik

Ein LLM zeichnet sich auch durch die besondere Fähigkeit aus, Informationen zu verknüpfen. Das ist einerseits gerade ein Vorteil, andererseits ein Risiko. Wie löscht man in einem solchen System, das jederzeit Daten neu verknüpfen und zuvor gelöschte Bezüge wieder herstellen kann? Nach DSK soll daher sichergestellt werden, dass Datenlöschung (z. B. wegen Begehrs eines Betroffenen) effektiv ist. Zwar verweist die DSK hierbei auf verschiedene angebliche Möglichkeiten der wirksamen Umsetzung innerhalb der KI-Systeme, nennt diese jedoch leider nicht. Dafür empfiehlt sie dem Output nachgestellte Filter als die Rechtewahrung zumindest ansatzweise unterstützende Behelfsmittel.

Risiko offene KI-Systeme

Insgesamt präferiert die DSK – womöglich aufgrund der häufigen Unmöglichkeiten, als Anwender auf Training, Korrekturen, oder Löschungen Einfluss zu nehmen – die Nutzung von geschlossenen Systemen, bei welchen die Datenverarbeitung in einer eingegrenzten und technisch abgeschlossenen Umgebung (des Unternehmens) erfolgt. Also, derartige KI-Systeme, wie sie in manchen Großunternehmen bereits entwickelt wurden, die auf bestehenden LLM aufbauen, mit eigenen Daten zusätzlich trainiert wurden und über welche insofern mehr Kontrolle besteht. (Noch) keine Lösung allerdings für den Großteil der deutschen Wirtschaft, die auf offene Systeme setzen werden wird, um nicht den Anschluss zu verlieren.

Vor offenen Systemen warnt die DSK ähnlich der vielen Datenschutzexperten seit der „Geburt“ von ChatGPT. Hier also nichts Neues: Achtung, man teilt sich das offene KI-System sozusagen mit Unbekannten. Eine unzulässige Änderung des Zweckes für die Verarbeitung der personenbezogenen Daten bei Verwendung im weiteren KI-System auch für Dritte ist daher möglich. Und natürlich der Zugang von Unbefugten zu etwaig eingegebenen personenbezogenen Daten. Nicht zuletzt, da Personenbezug auch unerkannt für den Ersteingebenden durch weitere Datenanreicherung bei Zugang der KI zum Internet hergestellt werden könnte.

Praktische Empfehlungen der KI-Orientierungshilfe

Um die beschriebene Risikolage zu beherrschen, Missbrauchspotenzial und das Risiko riskanter Anwendung zu minimieren, empfiehlt die DSK die nachfolgend aufgeführten praktischen Maßnahmen:

Vor Anwendung

Geschlossene KI-Systeme statt offene wählen, soweit möglich. Sofern offene KI-Systeme genutzt werden wollen/müssen, wählen Sie nach Möglichkeit solche, die Business Accounts vorhalten, da diese oft bessere Steuerungsmöglichkeiten und ein höheres Vertraulichkeitsniveau bieten.
Klare Regeln für die Beschäftigen aufstellen und dazu sensibilisieren. Dies sollte u. E. übergeordnet im Hinblick auf eine KI-Strategie erfolgen (Was wollen wir damit erreichen? Wie machen wir KI für uns nutzbar? Was machen wir damit definitiv nicht?) sowie auf die einzelnen KI-Systeme bezogen.
Ggfs. eine KI-spezifische Betriebsvereinbarung mit dem Betriebsrat vereinbaren oder bestehende Vereinbarungen um KI-Aspekte erweitern.
Lektüre der KI-spezifischen Empfehlungen des Bundesamtes für Sicherheit in der Informationstechnik (BSI) (Hinweis: Der Link im DSK-Papier funktioniert nicht).

Bei Anwendung

Insbesondere bei offenen LLM-Systemen betriebliche oder anonymisierte Accounts für die Beschäftigen erstellen.
Eine klare Trennung von privater und beruflicher Verwendung von LLM durchsetzen (s.o. Regelwerk).
Die Verarbeitung von Eingabedaten zu Trainingszwecken unterbinden (soweit im jeweiligen KI-System möglich).
Die Speicherung von Eingabe‐Historien über eine Sitzung hinaus abstellen oder abwägen, ob das Speichern nicht der Transparenz halber zugelassen werden soll (soweit im jeweiligen KI-System möglich).
Die Prüfung von Output-Ergebnissen auf Richtigkeit / Plausibilität.
Das automatische Veröffentlichen von Ausgabedaten unterbinden (soweit im jeweiligen KI-System möglich).
Das Nachschalten von Output-Filtern zur Wahrung des Rechts zur Löschung bei unmöglicher Löschung im KI-System selbst (soweit möglich).

Die meisten dieser Handlungsempfehlungen sollten leicht umzusetzen sein, bei einigen kommt es auf die dem jeweiligen KI-System inhärenten Steuerungsmöglichkeiten für die Anwender an.

Als abschließend sind diese Empfehlungen nicht zu erachten (Stichwort: Orientierung). Insbesondere sollten die KI-Verordnung und die Angaben der KI-Systemherstellerangaben herangezogen werden und die Entwicklung der Best Practice im Rahmen von Expertenrunden, Veröffentlichungen oder dem einfachen Austausch im Kollegenkreis beobachtet werden.

Wenn Sie sich unsicher sind, wie Sie in Ihrem Unternehmen das Management von Datenschutz und KI am besten vereinen, beraten wir Sie gern. Kontaktieren Sie uns einfach hier.

Sie möchten über die neusten Entwicklungen hinsichtlich Datenschutz und KI-Compliance auf dem Laufenden bleiben? Dann abonnieren Sie gerne unseren Newsletter!