Wie stellt man DSGVO-Konformität beim KI-Einsatz technisch sicher?
Direkte Antwort
DSGVO-konformer KI-Einsatz erfordert einen wirksamen Auftragsverarbeitungsvertrag mit dem KI-Anbieter, technische Datenminimierung (keine unnötigen personenbezogenen Daten im Prompt oder Kontext), und ein funktionierendes Löschkonzept, das auch für in Vektor-Datenbanken oder Chat-Historien gespeicherte personenbezogene Daten greift.
"Ein DSGVO-konformer Vertrag mit dem KI-Anbieter nützt wenig, wenn die eigene RAG-Pipeline personenbezogene Daten in eine Vektor-Datenbank schreibt, die niemand ins Löschkonzept aufgenommen hat.
Viele KI-Projekte klären den Auftragsverarbeitungsvertrag mit dem Anbieter, übersehen aber, dass personenbezogene Daten oft an unerwarteten technischen Stellen landen, etwa in Vektor-Datenbanken oder Konversationsverläufen.
Auftragsverarbeitung als vertragliche Grundvoraussetzung
Wird ein externer KI-Anbieter genutzt und verarbeitet dieser personenbezogene Daten im Auftrag, braucht es einen wirksamen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO, der unter anderem Standort der Datenverarbeitung, Subunternehmer und Löschfristen regelt.
Dieser Vertrag allein reicht aber nicht aus, wenn die technische Implementierung im eigenen System nicht ebenfalls DSGVO-konform gestaltet ist — der Vertrag regelt die rechtliche Beziehung, nicht die tatsächliche technische Datenverarbeitung im eigenen Code.
Datenminimierung im Prompt und Kontext als technische Praxis
Vor jedem Prompt oder RAG-Kontext sollte geprüft werden, ob tatsächlich personenbezogene Daten benötigt werden, oder ob eine anonymisierte oder pseudonymisierte Version der Daten für den jeweiligen Zweck ausreicht.
Diese Prüfung sollte technisch durchgesetzt werden, etwa durch automatisierte Erkennung und Maskierung offensichtlicher personenbezogener Daten (Namen, E-Mail-Adressen) vor dem Versand an ein Modell, statt sich allein auf manuelle Sorgfalt der Entwickler:innen zu verlassen.
Löschkonzepte für alle Speicherorte personenbezogener Daten
Personenbezogene Daten landen bei KI-Systemen oft an mehreren Stellen — im ursprünglichen Dokument, in einer Vektor-Datenbank für RAG, in Konversationshistorien und in Logs zur Fehleranalyse.
Ein vollständiges Löschkonzept muss alle diese Speicherorte technisch erfassen, weil eine Löschanfrage sonst nur die offensichtliche Quelle erreicht, während die Daten in Vektor-Embeddings oder Log-Dateien unentdeckt weiter existieren. Ein oft unterschätzter Sonderfall: Embeddings sind kein anonymes Zahlenformat — aus einem Embedding lässt sich unter bestimmten Bedingungen der ursprüngliche Text durch Inversionsangriffe teilweise rekonstruieren, weshalb ein Vektor-Index mit personenbezogenen Inhalten datenschutzrechtlich wie die Originaldaten behandelt werden sollte, nicht wie eine anonymisierte Ableitung.
Wann passt es — wann nicht?
Passt gut
- ✓Das KI-System verarbeitet personenbezogene Daten in Prompts, RAG-Kontext oder Konversationshistorien
Passt nicht
- ✗Das System verarbeitet ausschließlich anonymisierte oder rein technische, nicht personenbezogene Daten