Daten­schutz­kon­forme KI

Bei KI geht es datenschutzrechtlich selten um das Modell allein, sondern um das, was darum herum passiert: Welche Daten werden eingegeben, wer verarbeitet sie, wo, und was geschieht danach mit ihnen? Dieselbe Anwendung kann je nach Vertrag und Konfiguration unproblematisch oder riskant sein.

Das hier ist ein technischer Überblick und keine Rechtsberatung. Was im Einzelfall zulässig ist, entscheiden Datenschutzbeauftragte und Rechtsberatung. Unsere Aufgabe ist, Architektur, Verträge und Einstellungen so umzusetzen, wie es dort beschlossen wird. Die Pflichten aus dem EU AI Act behandeln wir gesondert.

Was die DSGVO bei KI verlangt

Die DSGVO gilt, sobald personenbezogene Daten in eine KI-Anwendung gelangen, als Eingabe, als Dokument in einer Wissensdatenbank oder als Trainingsdaten. Jede Verarbeitung braucht eine Rechtsgrundlage, etwa Vertrag, Einwilligung oder berechtigtes Interesse. Der Europäische Datenschutzausschuss (EDPB) betont in seiner Stellungnahme 28/2024, dass das berechtigte Interesse bei KI nicht automatisch greift, sondern im Einzelfall abzuwägen ist. Dazu kommt die Zweckbindung: Daten dürfen nur für den Zweck genutzt werden, für den sie erhoben wurden, ein Assistent, der Kundendaten auswertet, braucht dafür also eine tragfähige Grundlage. Datenminimierung heißt, nur zu übergeben, was die Aufgabe wirklich braucht. Und Betroffene müssen informiert werden, auch über den Einsatz von KI. Bei automatisierten Einzelentscheidungen gelten zusätzliche Anforderungen nach Artikel 22.

Die deutschen Aufsichtsbehörden haben ihre Erwartungen in Orientierungshilfen der Datenschutzkonferenz (DSK) festgehalten, zum Beispiel zu KI und Datenschutz (Mai 2024), zu technischen und organisatorischen Maßnahmen und zu RAG-Systemen (Oktober 2025). Die Orientierungshilfen sind nicht bindend, zeigen aber, worauf Behörden achten. Die Vorschläge der Kommission zur Änderung der DSGVO, der sogenannte Digital Omnibus, sind nach unserem Kenntnisstand noch nicht beschlossen. Bis dahin gilt die DSGVO unverändert.

Der Vertrag mit dem KI-Anbieter

Nutzt ein Unternehmen das KI-Angebot eines Dienstleisters, ist dieser in der Regel Auftragsverarbeiter, und nach Artikel 28 DSGVO braucht es einen Auftragsverarbeitungsvertrag (AVV). Bei KI-Anbietern lohnt sich der Blick auf einige Punkte. Werden Eingaben und Ausgaben zum Training genutzt? Viele Business-Angebote schließen das vertraglich aus, bei Verbraucherversionen ist es oft anders, deshalb zählen immer die aktuellen Bedingungen des gebuchten Tarifs. Welche Unterauftragsverarbeiter sind beteiligt und wo sitzen sie? Wie lange werden Eingaben gespeichert, wer kann sie zur Missbrauchserkennung einsehen, und wo wird gespeichert und wo verarbeitet?

Für Übermittlungen in Drittländer wie die USA kommen das EU-US Data Privacy Framework oder Standardvertragsklauseln in Betracht. Das Framework stützt sich auf einen Angemessenheitsbeschluss von 2023. Das Gericht der EU hat die Klage dagegen im September 2025 abgewiesen, über die Berufung hat der Europäische Gerichtshof nach unserem Kenntnisstand noch nicht entschieden. Wer das Risiko einer künftigen Änderung verringern will, plant deshalb Alternativen mit ein.

EU-Region heißt nicht automatisch EU-Verarbeitung

Große Anbieter bieten inzwischen Optionen, die Verarbeitung auf die EU zu begrenzen. Die Details unterscheiden sich und ändern sich häufig, die folgenden Angaben stammen von den Herstellern. In Microsoft Foundry gibt es Bereitstellungstypen mit Verarbeitung nur in der EU („Data Zone“). Bei „Global“-Typen können Prompts und Antworten dagegen in jeder Azure-Region verarbeitet werden, während gespeicherte Daten jeweils in der gewählten Geografie bleiben. Die EU Data Boundary beschreibt, welche Microsoft-Dienste Daten in EU und EFTA speichern und verarbeiten.

Bei Google und AWS gilt dasselbe Prinzip. Ein EU-Endpunkt beziehungsweise ein EU-Inferenzprofil hält die Verarbeitung innerhalb der EU, globale Varianten geben keine Garantie für den Verarbeitungsort. Ob ein Modell bei Google in Deutschland lokal verarbeitet wird, hängt vom Modell ab. OpenAI bietet berechtigten Kunden eine Datenresidenz in Europa, welche Produkte und Einstellungen sie umfasst, ist im Einzelfall zu prüfen. Anbieter mit Sitz in der EU wie Mistral AI sind eine Option, wenn Sitz und Rechtsraum eine Rolle spielen, auch dort sind Verarbeitungsorte und Unterauftragnehmer im Vertrag zu prüfen.

Wichtig ist, nicht nur die Region zu wählen, sondern das Gesamtbild zu prüfen: Speicherort, Verarbeitungsort, Support-Zugriffe und Vertragsbedingungen. Wer nur den Speicherort wählt, übersieht, dass die Verarbeitung global erfolgen kann. Ob auch der Sitz des Anbieters eine Rolle spielt, ist eine rechtliche Bewertung.

Wenn keine Daten das Haus verlassen sollen

Wer keine Daten an einen Modellanbieter geben möchte, kann offene Modelle selbst betreiben, in der eigenen Infrastruktur oder bei einem europäischen Hoster. Dafür gibt es eine wachsende Auswahl, etwa gpt-oss, das unter Apache 2.0 steht, sowie Modelle von Mistral AI, Qwen und Llama. Die Lizenzbedingungen unterscheiden sich je Modell und sind vor dem Einsatz zu prüfen.

Der Vorteil: Die Daten verlassen die eigene Umgebung nicht, und Protokolle, Updates und Zugriffe liegen in eigener Hand. Dem stehen Aufwand für Betrieb, Hardware und Absicherung gegenüber, und für anspruchsvolle Aufgaben liefern große Cloud-Modelle teils bessere Ergebnisse. Häufig ist ein gemischter Ansatz sinnvoll: sensible Daten im eigenen Modell, allgemeine Aufgaben im Cloud-Dienst.

Schutzmaßnahmen im Betrieb

Unabhängig vom Hosting gehören einige Maßnahmen fast immer dazu. Namen und Kennungen werden vor der Übergabe an ein Modell ersetzt oder entfernt. Pseudonymisierte Daten bleiben dabei personenbezogen, und echte Anonymisierung ist anspruchsvoll und muss geprüft werden. Das Rechte- und Zugriffskonzept stellt sicher, dass ein Assistent nur auf Inhalte zugreift, die die fragende Person auch sonst sehen darf. Ein Assistent, der über alle Dokumente sucht, zeigt sonst Inhalte, die Einzelne nicht sehen dürfen. Zugriffe und Aktionen werden protokolliert, ohne unnötig viele personenbezogene Inhalte zu speichern, und Aufbewahrungsfristen gelten auch für Chatverläufe, Vektordatenbanken, Logs und Zwischenspeicher.

Besteht voraussichtlich ein hohes Risiko für die Betroffenen, ist nach Artikel 35 DSGVO eine Datenschutz-Folgenabschätzung erforderlich. Dafür liefern wir technische Beschreibung, Datenflüsse und Maßnahmen zu. Im Alltag liegt das Problem oft woanders: Teams nutzen KI-Dienste mit privaten Konten, ohne Vertrag und ohne Wissen des Datenschutzes, und Anbieter ändern Bedingungen und Funktionen, ohne dass es jemand bemerkt. Deshalb gehört die regelmäßige Prüfung der Einstellungen in den Betrieb, und wer Datenflüsse dokumentiert und Anbieter austauschbar hält, kann auf neue Rechtslagen reagieren, ohne die Anwendungen neu zu bauen.