KI DSGVO konform zu betreiben ist kein Nice-to-have, sondern eine regulatorische Pflicht — und mit dem EU AI Act, der ab August 2026 in Phase 2 greift, wird der Druck auf Unternehmen noch einmal massiv steigen. Wer heute KI-Assistenten im Unternehmen einsetzt, muss sich mit Auftragsverarbeitung, Provider-Wahl und Betroffenenrechten auseinandersetzen. Die gute Nachricht: Es gibt einen klaren Weg.
Laut einer Bitkom-Umfrage vom Januar 2026 sehen 67 Prozent der deutschen Unternehmen den Datenschutz als größte Hürde für den KI-Einsatz — noch vor fehlendem Know-how (54 %) und unklarem ROI (48 %). Dabei ist die Rechtslage keineswegs so unklar, wie viele denken. DSGVO und EU AI Act geben einen präzisen Rahmen vor — man muss ihn nur kennen und operativ umsetzen.
DSGVO und KI: Die vier zentralen Pflichten
Die DSGVO kennt keinen eigenen „KI-Paragrafen", aber sie trifft KI-Assistenten an mehreren entscheidenden Stellen. Wer einen KI-Assistenten im Unternehmen betreibt, ist in der Regel Verantwortlicher im Sinne von Art. 4 Nr. 7 DSGVO. Daraus ergeben sich vier Kernpflichten:
| Pflicht | DSGVO-Artikel | Was das für KI bedeutet |
|---|---|---|
| Rechtsgrundlage | Art. 6 | Berechtigtes Interesse oder Einwilligung — je nach Use Case. Bei Mitarbeiterdaten ist Art. 88 + § 26 BDSG relevant. |
| Auftragsverarbeitung (AVV) | Art. 28 | Zwingend erforderlich, wenn der KI-Assistent über einen externen Provider (OpenRouter, Anthropic, etc.) läuft. |
| Datenübermittlung in Drittländer | Art. 44–49 | US-Provider ohne Angemessenheitsbeschluss? Dann brauchst du Standardvertragsklauseln (SCCs) plus Transfer Impact Assessment (TIA). |
| Betroffenenrechte | Art. 15–22 | Auskunft, Löschung, Berichtigung — auch für Daten, die im KI-Kontext verarbeitet wurden. |
Die Praxis zeigt: Der kritischste Punkt ist die Auftragsverarbeitung. Sobald ein Prompt mit personenbezogenen Daten an einen LLM-Provider geht, liegt eine Verarbeitung im Auftrag vor. Ohne AVV ist das rechtswidrig — Punkt.
EU AI Act: Was ab August 2026 gilt
Der EU AI Act tritt gestaffelt in Kraft. Phase 2 ab August 2026 betrifft GPAI-Modelle (General Purpose AI) — also genau die Large Language Models, die hinter KI-Assistenten wie ChatGPT, Claude oder Gemini stehen. Die Pflichten für Betreiber:
- Transparenzpflicht: Nutzer müssen erkennen können, dass sie mit einer KI interagieren
- Dokumentationspflicht: Technische Dokumentation der eingesetzten Modelle und ihrer Fähigkeiten
- Risikomanagement: Für Hochrisiko-KI-Systeme (z. B. Personalentscheidungen, Kreditvergabe) gelten strenge Auflagen
- Menschliche Aufsicht: KI-Entscheidungen müssen von Menschen überprüfbar bleiben
Für die meisten Unternehmensanwendungen — E-Mail-Klassifikation, Dokumentenanalyse, interne Wissensdatenbanken — fällt der KI-Assistent nicht unter „Hochrisiko". Aber die Transparenz- und Dokumentationspflichten gelten trotzdem. Ein unterschätztes Risiko: Der AI Act verlangt KI-Kompetenz der Mitarbeiter (Art. 4). Unternehmen müssen nachweisen, dass ihre Angestellten im Umgang mit KI-Systemen geschult sind.
KI DSGVO konform: Das Provider-Problem
Die meisten LLM-Provider sitzen in den USA. OpenRouter, OpenAI, Anthropic — alle unterliegen US-Recht, insbesondere dem CLOUD Act und FISA 702. Das bedeutet: US-Behörden können theoretisch auf die Daten zugreifen, selbst wenn sie in europäischen Rechenzentren verarbeitet werden.
Was tun? Die Lösung ist eine mehrstufige Provider-Strategie:
| Strategie | Provider | DSGVO-Status |
|---|---|---|
| EU-Hosting mit DPA | Mistral (EU), DeepSeek EU-Endpunkte | ✅ Optimal — Daten bleiben in der EU, AVV vorhanden |
| US-Provider mit EU-Region und SCCs | OpenAI (EU-Tenant), Anthropic (Claude via GCP Europe) | ⚠️ Akzeptabel — aber TIA und SCCs erforderlich |
| US-Provider ohne EU-Region | OpenRouter (Standard-Routing), Grok | ❌ Hochriskant — ohne zusätzliche Schutzmaßnahmen kaum DSGVO-konform |
| On-Premise / Self-Hosted | Llama 3, Open-Source-Modelle via vLLM | ✅ Optimal — keine Datenverlassen das Unternehmen |
Die Praxis der meisten Unternehmen ist ein hybrides Modell: Hochsensible Daten (HR, Finanzen) werden über EU-Provider oder on-premise verarbeitet, weniger kritische Anwendungen (allgemeine Recherche, Textentwürfe) laufen über US-Provider mit starken vertraglichen Schutzmaßnahmen.
Prompt Engineering als Datenschutz-Tool
Ein oft übersehener Hebel: Das Prompt-Design selbst kann datenschutzrechtlich relevant sein. Wenn ein KI-Assistent so konfiguriert ist, dass er personenbezogene Daten aus dem Prompt filtert, bevor sie den Provider erreichen, reduziert das das Risiko erheblich.
Konkret: Ein gut konfigurierter KI-Assistent hat eine lokale Orchestrierungsschicht, die sensible Daten erkennt und entweder maskiert („[KUNDENNAME]" statt „Müller GmbH") oder die Anfrage an einen EU-Provider routet. Die LLM-Inferenz selbst läuft zwar beim Provider, aber die Daten, die ihn erreichen, sind bereits bereinigt.
Das ist der entscheidende Unterschied zwischen einem Consumer-Tool und einem professionell betriebenen KI-Assistenten: Nicht die Frage, ob Daten den eigenen Server verlassen, sondern welche Daten, zu welchem Provider, unter welchen vertraglichen Schutzmaßnahmen.
Konkrete Umsetzung: 5 Schritte zum DSGVO-konformen KI-Assistenten
- Datenflussanalyse: Welche personenbezogenen Daten fließen durch den KI-Assistenten? Namen, E-Mail-Adressen, Kundendaten, Vertragsinhalte?
- Provider-Auswahl: Für jeden Datenfluss den passenden Provider wählen — EU-Hosting für sensible Daten, US-Provider nur mit AVV + SCCs + TIA
- AVV abschließen: Mit jedem Provider einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO. Wichtig: Der AVV muss die konkrete Verarbeitung beschreiben, nicht nur generisch „Cloud-Dienste"
- Prompt-Filter implementieren: Lokale Orchestrierungsschicht, die PII erkennt und maskiert, bevor Daten den Provider erreichen
- Dokumentation und Mitarbeiterschulung: Verarbeitungsverzeichnis aktualisieren, Datenschutz-Folgenabschätzung (DPIA) durchführen, Mitarbeiter im KI-Umgang schulen (AI Act Art. 4)
ROI: Was DSGVO-Konformität wirklich kostet — und was sie spart
Die Kosten für ein professionelles DSGVO-Compliance-Setup eines KI-Assistenten liegen im Bereich einer betreuten Dienstleistung — nicht im fünfstelligen Bereich, wie viele Entscheider befürchten. Der eigentliche Kostenfaktor ist nicht die Technik, sondern die Rechtsberatung und Dokumentation. Ein typischer Mittelständler investiert initial in die Datenflussanalyse, AVV-Erstellung und DPIA, und danach in ein laufendes Monitoring.
Dem gegenüber stehen handfeste Einsparungen: Ein Unternehmen mit 50 Mitarbeitern, das Shadow AI (inoffizielle ChatGPT-Nutzung) durch einen DSGVO-konformen KI-Assistenten ersetzt, vermeidet nicht nur das Risiko von Bußgeldern — es gewinnt auch Transparenz über die tatsächliche KI-Nutzung, reduziert Doppelarbeit und schafft eine einheitliche Wissensbasis. Die Erfahrung zeigt: Der Produktivitätsgewinn durch einen zentralen, gut konfigurierten KI-Assistenten übersteigt die Compliance-Kosten innerhalb der ersten 6 Monate.
Mit agentworx als Partner zahlen Sie nicht für Tools und Lizenzen, sondern für ein fertiges Compliance-Paket: Datenflussanalyse, Provider-Auswahl, AVV-Erstellung, DPIA, Mitarbeiterschulung und laufendes Monitoring — alles integriert, ohne dass Sie ein internes Datenschutz-Team aufbauen müssen.
Typische Fallstricke — und wie man sie vermeidet
Fallstrick 1: „Der Provider hat doch eine Datenschutzerklärung"
Eine Privacy Policy ist kein AVV. Sie ist eine einseitige Erklärung, kein Vertrag. Art. 28 DSGVO verlangt einen zweiseitigen Vertrag, der die Rechte und Pflichten beider Parteien regelt. Ohne unterschriebenen AVV ist die Verarbeitung rechtswidrig — selbst wenn der Provider „DSGVO-konform" auf seiner Website stehen hat.
Fallstrick 2: Prompt-Drift
KI-Assistenten verhalten sich nicht deterministisch. Ein Prompt, der heute keine personenbezogenen Daten preisgibt, kann morgen durch eine minimale Änderung im Kontextfenster plötzlich sensible Informationen enthalten. Ohne serverseitige Filterung und Monitoring ist das ein latentes Risiko.
Fallstrick 3: „Wir nutzen ja nur die API"
Die API-Nutzung ändert nichts an der Auftragsverarbeitung. Auch über die API fließen Daten an den Provider. Der Unterschied zur ChatGPT-Weboberfläche: OpenAI verzichtet bei API-Nutzung auf das Training mit deinen Daten — aber die Verarbeitung findet trotzdem statt. Der AVV ist Pflicht, egal über welchen Kanal.
Fallstrick 4: Ignorieren des TIA
Das Transfer Impact Assessment (TIA) ist seit Schrems II Pflicht für US-Datentransfers. Es bewertet, ob die Rechtslage im Drittland ein Schutzniveau bietet, das dem europäischen „im Wesentlichen gleichwertig" ist. Für die USA ist das nach dem EU-US Data Privacy Framework (DPF) vereinfacht — aber nur, wenn der Provider DPF-zertifiziert ist. Viele KI-Provider sind das nicht.
Fallstrick 5: Fehlendes Monitoring nach dem Go-Live
DSGVO-Konformität ist kein einmaliges Projekt, sondern ein kontinuierlicher Prozess. Provider ändern ihre AGB, neue Modelle kommen mit anderen Datenverarbeitungswegen auf den Markt, und die Rechtsprechung entwickelt sich weiter. Ein KI-Assistent, der heute konform ist, kann es in sechs Monaten nicht mehr sein — wenn niemand die Änderungen trackt. Professionelles Monitoring umfasst: Provider-API-Änderungen, AGB-Updates, neue EU-Regulierung und regelmäßige Prompt-Audits.
FAQ
Brauche ich eine Datenschutz-Folgenabschätzung (DPIA) für meinen KI-Assistenten?
In den meisten Fällen: Ja. Art. 35 DSGVO verlangt eine DPIA, wenn die Verarbeitung „voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat". Die Verarbeitung personenbezogener Daten durch einen KI-Assistenten — insbesondere bei automatisierter Entscheidungsfindung oder umfangreicher Verarbeitung — fällt regelmäßig darunter. Die DPIA muss Risiken identifizieren, bewerten und Maßnahmen zur Risikominderung dokumentieren.
Kann ich ChatGPT einfach im Unternehmen verbieten und das Problem ist gelöst?
Verbot allein ist keine Lösung. Eine Studie des Digitalverbands Bitkom zeigt, dass 78 Prozent der Angestellten generative KI-Tools bereits nutzen — oft ohne Wissen der IT-Abteilung (Shadow AI). Statt Verbot: Einen offiziellen, DSGVO-konformen KI-Assistenten bereitstellen, der die Nutzung kanalisiert und kontrollierbar macht. Das reduziert das Risiko und erhöht die Akzeptanz.
Was passiert, wenn ich den EU AI Act ignoriere?
Die Sanktionen des AI Act orientieren sich an der DSGVO: Bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes — je nachdem, was höher ist. Für mittelständische Unternehmen kann das existenzbedrohend sein. Zusätzlich drohen Reputationsschäden und zivilrechtliche Klagen von Betroffenen.