DSGVO bei generativer KI: Personenbezogene Daten in Input und Output beherrschen

Nicht das Tool, sondern den vollständigen Datenfluss prüfen

Die erste Managementfrage lautet nicht, ob ein bestimmter Chatbot datenschutzfreundlich wirbt, sondern welche Informationen in welchem Verarbeitungsschritt fließen. Zu erfassen sind Prompts, hochgeladene Dateien, Systemanweisungen, Gesprächsverläufe, Nutzerkennungen, Telemetrie, Sicherheitsprotokolle, Moderationsdaten, Zwischenspeicher und erzeugte Ausgaben. Auch scheinbar sachliche Eingaben können durch Kundennummern, Fallbeschreibungen oder Kombinationen indirekt eine Person bestimmbar machen.

Für jeden Schritt ist festzuhalten, wer Zwecke und Mittel bestimmt. Das Unternehmen kann für die berufliche Nutzung Verantwortlicher sein, während der Dienstleister bestimmte Vorgänge auf Weisung ausführt und andere Daten für eigene Sicherheits-, Abrechnungs- oder Verbesserungszwecke verarbeitet. Eine pauschale Rollenbezeichnung im Bestellformular ersetzt diese funktionsbezogene Prüfung nicht. Das Management sollte ohne belastbare Datenflusskarte keine produktive Nutzung mit echten Personenbezügen freigeben.

• Input, Kontextspeicher, Logs, Modellverbesserung und Output getrennt erfassen.
• Je Verarbeitungsschritt Zweck, Rolle, Empfänger, Speicherort und Löschung dokumentieren.
• Pilotkonten ohne echte personenbezogene Daten nutzen, bis die Prüfung abgeschlossen ist.

Quellen: [1] [2]

Zweck und Rechtsgrundlage vor der Eingabe festlegen

Jede Verarbeitung braucht einen bestimmten, legitimen Zweck und eine tragfähige Rechtsgrundlage. Bei Kundenservice, Vertragsbearbeitung oder interner Administration kommen je nach Sachverhalt Vertragserfüllung, rechtliche Verpflichtung oder berechtigte Interessen in Betracht; keine dieser Grundlagen gilt automatisch. Die Interessenabwägung muss die vernünftigen Erwartungen betroffener Personen, Eingriffsintensität, Datenumfang, Fehlerfolgen und Schutzmaßnahmen konkret berücksichtigen. Eine Einwilligung ist nur belastbar, wenn sie freiwillig, informiert, bestimmt und widerrufbar ist.

Besondere Kategorien nach Art. 9 DSGVO, etwa Gesundheitsdaten, politische Meinungen oder biometrische Daten zur eindeutigen Identifizierung einer Person, verlangen zusätzlich eine Ausnahme vom grundsätzlichen Verarbeitungsverbot. Das ist kein Feld für spontane Prompts in öffentlichen Diensten. Die Leitung sollte eine klare Eingabepolitik beschließen: sensible Daten grundsätzlich sperren, genehmigte Sonderfälle an dokumentierte Rechtsprüfung und technisch abgeschottete Umgebungen binden sowie Testdaten anonymisieren oder synthetisch erzeugen.

• Rechtsgrundlage pro Zweck dokumentieren, nicht pauschal pro Anbieter.
• Einwilligung im Beschäftigungs- oder Abhängigkeitskontext nicht als bequemen Standard verwenden.
• Art.-9-Daten nur in ausdrücklich geprüften und abgesicherten Verfahren zulassen.

Quellen: [1] [3]

Datenminimierung, Transparenz und Speicherfristen operationalisieren

Datenminimierung bedeutet bei generativer KI mehr als kurze Prompts. Namen können durch Rollenbezeichnungen ersetzt, Dokumente vor dem Upload bereinigt und nur erforderliche Ausschnitte übermittelt werden. Funktionen wie Chatverlauf, Plug-ins, externe Suche oder persistente Erinnerungen sind gesondert zu aktivieren. Eine bloße Zusage, der Anbieter trainiere nicht mit Kundendaten, beantwortet weder die Frage nach Protokollen noch nach Supportzugriffen, Aufbewahrung oder Unterauftragnehmern.

Betroffene Personen müssen verständlich erfahren, welche ihrer Daten für welchen KI-gestützten Vorgang verwendet werden, wer Empfänger ist und wie lange Daten gespeichert werden. Das Informationsblatt muss den realen Prozess abbilden; allgemeine Hinweise auf Digitalisierung genügen nicht. Das Management sollte Speicherfristen je Datenkategorie genehmigen, automatische Löschungen technisch prüfen und Verantwortliche für Ausnahmen benennen. Parallel sind internationale Übermittlungen nach Kapitel V DSGVO gesondert zu prüfen.

• Standardmäßig Verlauf, Training und optionale Konnektoren deaktivieren, soweit sie nicht benötigt werden.
• Informationspflichten am konkreten Prozess statt in einer allgemeinen KI-Klausel erfüllen.
• Löschfristen für Eingaben, Ausgaben, Logs und lokale Kopien getrennt festlegen.

Quellen: [1] [3]

Output validieren und Betroffenenrechte ermöglichen

Ausgaben generativer Systeme können personenbezogene Behauptungen enthalten, obwohl der Prompt keine solchen Daten enthielt. Sie können Tatsachen erfinden, Personen verwechseln oder veraltete Informationen wiedergeben. Vor externer Nutzung braucht es deshalb eine fachliche Prüfung anhand verlässlicher Quellen. Für Personal-, Kredit-, Gesundheits- oder Reputationsentscheidungen reicht ein flüchtiger Plausibilitätsblick nicht; die Prüfungstiefe muss den möglichen Folgen entsprechen und darf nicht zur bloßen Bestätigung des Vorschlags verkommen.

Auskunft, Berichtigung, Löschung, Einschränkung und Widerspruch müssen auch dann bearbeitbar bleiben, wenn Daten in Promptverläufen oder Ausgaben gespeichert sind. Das Unternehmen sollte auffindbar dokumentieren, welcher Dienst, welche Version, welcher Zweck und welche Datenkategorien betroffen waren. Bei unrichtigen Ausgaben ist nicht nur die lokale Datei zu korrigieren: Weitergaben, wiederkehrende Prompts, Wissensspeicher und angebundene Systeme sind in die Ursachen- und Löschprüfung einzubeziehen.

• Keinen personenbezogenen Output ohne fachliche und kontextbezogene Validierung verwenden.
• Betroffenenanfragen mit Anbieter-, System- und Speicherregister verknüpfen.
• Korrekturen auch in nachgelagerten Ablagen und wiederverwendeten Wissensbeständen verfolgen.

Quellen: [1] [2]

DSFA und automatisierte Entscheidungen getrennt beurteilen

Eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO ist vor der Verarbeitung durchzuführen, wenn Art, Umfang, Umstände und Zwecke voraussichtlich ein hohes Risiko für Rechte und Freiheiten verursachen. Maßgeblich ist der konkrete Einsatz, nicht das Etikett generative KI. Umfangreiche sensible Daten, systematische Bewertung, innovative Technik, vulnerable Gruppen und die Verknüpfung mehrerer Datensätze sind gewichtige Signale. Die DSFA muss Risiken, Notwendigkeit, Verhältnismäßigkeit und vorgesehene Abhilfen nachvollziehbar bewerten.

Art. 22 DSGVO ist eine andere Prüfung. Er betrifft Entscheidungen, die ausschließlich automatisiert erfolgen und rechtliche Wirkung entfalten oder Personen ähnlich erheblich beeinträchtigen. Ein Mensch in der Prozessgrafik genügt nicht, wenn er faktisch keine Zeit, Kompetenz oder Befugnis hat, den Vorschlag zu hinterfragen. Das Management muss entscheiden, welche Entscheidungen niemals ausschließlich auf dem KI-Output beruhen dürfen und welche Eingriffs-, Begründungs- und Beschwerderechte organisatorisch gewährleistet werden.

• DSFA-Schwelle anhand des konkreten Risikos dokumentieren.
• Formale menschliche Freigabe nicht mit wirksamer menschlicher Entscheidung gleichsetzen.
• Bei nicht beherrschbarem Restrisiko die vorgesehene Konsultation der Aufsicht prüfen.

Quellen: [1] [3]

DSGVO und AI Act nicht vermischen

Der AI Act und die DSGVO verfolgen unterschiedliche Regelungsansätze. Eine Anbieter- oder Betreiberrolle nach dem AI Act entscheidet nicht, wer datenschutzrechtlich Verantwortlicher oder Auftragsverarbeiter ist. Ebenso schafft eine Kennzeichnung nach Art. 50 AI Act keine Rechtsgrundlage für personenbezogene Daten. Umgekehrt bedeutet ein datenschutzrechtlich zulässiger Vorgang nicht automatisch, dass Verbote, Transparenz- oder spätere Hochrisikoanforderungen des AI Act erfüllt sind.

Rechtsstand 16. September 2026 ist außerdem zwischen geltendem Recht und Vorschlägen zu unterscheiden. Der allgemeine Digital-Omnibus-Vorschlag COM(2025) 837 darf nicht als bereits wirksame DSGVO-Erleichterung behandelt werden. Für die Leitung folgt daraus eine klare Entscheidung: Datenschutzfreigabe und AI Act-Klassifizierung als getrennte Prüfschritte mit benannten Verantwortlichen führen, Ergebnisse anschließend in einer gemeinsamen Einsatzentscheidung zusammenführen und bei Zweck-, Modell- oder Anbieterwechsel erneut prüfen.

• Datenschutzrolle und AI Act-Rolle in getrennten Feldern des KI-Inventars führen.
• Keine vorgeschlagene Gesetzesänderung vorwegnehmen.
• Freigabe bei neuen Zwecken, Funktionen, Datenquellen oder Anbieterbedingungen neu bewerten.

Quellen: [1] [4]

Häufige Fragen