Inhalt
- KI DSGVO-konform einsetzen: Worum es eigentlich geht
- Schritt 1: Datenkategorien und Zweck festlegen
- Schritt 2: Rechtsgrundlage, AV-Vertrag und Drittland
- Schritt 3: Tarif, Training und Einstellungen prüfen
- Schritt 4: Datenminimierung, Pseudonymisierung und Löschkonzept
- Schritt 5: DSFA, Transparenz und Datenschutzbeauftragter
- Die Checkliste im Überblick
- Fazit
- Häufige Fragen
Das Wichtigste in Kürze
- KI DSGVO-konform einzusetzen heißt vor allem zu wissen, welche personenbezogenen Daten in welches Tool fließen, zu welchem Zweck, auf welcher Rechtsgrundlage und wohin.
- Für Cloud-KI-Dienste brauchst du in der Regel einen Vertrag zur Auftragsverarbeitung und bei Verarbeitung außerhalb der EU eine tragfähige Grundlage für die Drittlandübermittlung.
- Business-Tarife sind für Firmendaten meist die bessere Wahl, weil viele Anbieter Eingaben dort nach eigenen Angaben nicht zum Training nutzen; prüfen musst du das trotzdem in den Vertragsbedingungen.
- Mit Datenminimierung, einem Löschkonzept und der frühen Einbindung deines Datenschutzbeauftragten lassen sich die meisten KI-Anwendungsfälle sauber umsetzen.
KI DSGVO-konform einsetzen: Worum es eigentlich geht
Die DSGVO kennt keine Sonderregeln für KI. Es gelten dieselben Grundsätze wie für jede andere Verarbeitung personenbezogener Daten: Zweckbindung, Rechtsgrundlage, Datenminimierung, Transparenz, Sicherheit und Speicherbegrenzung. Neu ist bei KI vor allem, wie leicht personenbezogene Daten unbemerkt in ein Tool gelangen.
Ein paar Beispiele aus dem Alltag: Jemand kopiert eine Kunden-E-Mail mit Signatur in einen Chat-Assistenten, um eine Antwort zu entwerfen. Das Videokonferenz-Tool transkribiert ein Bewerbungsgespräch. Ein Wissensassistent durchsucht Laufwerke, auf denen auch Personalunterlagen liegen. In allen drei Fällen werden personenbezogene Daten verarbeitet, oft ohne dass es jemandem bewusst ist.
Die gute Nachricht: Wenn kein Personenbezug im Spiel ist, etwa beim Umformulieren eines Produkttextes, spielt die DSGVO kaum eine Rolle. Und wenn doch, lässt sich der Einsatz mit einer überschaubaren Zahl an Prüfpunkten sauber aufsetzen. Die gehe ich hier durch. Der Artikel ersetzt keine Rechtsberatung, hilft dir aber, die richtigen Fragen zu stellen und mit deinem Datenschutzbeauftragten auf Augenhöhe zu sprechen.
Schritt 1: Datenkategorien und Zweck festlegen
Bevor du über Tools und Verträge sprichst, kläre zwei Fragen: Welche Daten fließen in die KI? Und wofür?
Bei den Daten unterscheide ich vier Stufen:
- Keine personenbezogenen Daten, etwa allgemeine Texte oder anonyme Statistiken.
- Gewöhnliche personenbezogene Daten wie Namen, Kontaktdaten, Korrespondenz oder Gesprächsnotizen.
- Besondere Kategorien nach Art. 9 DSGVO, zum Beispiel Gesundheitsdaten, religiöse Überzeugungen oder Gewerkschaftszugehörigkeit. Für sie gelten deutlich strengere Regeln.
- Beschäftigtendaten, bei denen besondere Vorsicht gilt und oft der Betriebsrat mitredet.
Beim Zweck geht es um eine klare Beschreibung. „Eingehende Kundenanfragen werden nach Thema sortiert und mit einem Antwortentwurf versehen“ ist ein Zweck. „Wir nutzen KI“ ist keiner. Der Zweck bestimmt, welche Daten nötig sind und welche Rechtsgrundlage passt. Halte ihn im Verzeichnis der Verarbeitungstätigkeiten nach Art. 30 DSGVO fest, das du in aller Regel ohnehin führen musst.
Schritt 2: Rechtsgrundlage, AV-Vertrag und Drittland
Rechtsgrundlage
Jede Verarbeitung braucht eine Rechtsgrundlage nach Art. 6 DSGVO. Für KI im Geschäftsalltag kommen meist zwei infrage: die Erfüllung eines Vertrags, etwa wenn du eine Kundenanfrage bearbeitest, oder das berechtigte Interesse, etwa an einer effizienten Bearbeitung. Das berechtigte Interesse erfordert eine dokumentierte Abwägung mit den Interessen der Betroffenen. Eine Einwilligung ist im Kundenkontakt selten praktikabel, weil sie freiwillig und jederzeit widerrufbar sein muss. Bei besonderen Kategorien und bei Beschäftigtendaten wird es anspruchsvoller. Dort gehört der Datenschutzbeauftragte von Anfang an dazu.
Vertrag zur Auftragsverarbeitung
Verarbeitet ein KI-Anbieter personenbezogene Daten in deinem Auftrag, brauchst du in der Regel einen Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO, kurz AV-Vertrag. Die meisten Anbieter von Business-Tarifen stellen einen Standardvertrag bereit. Oft muss er aber aktiv abgeschlossen oder in der Admin-Konsole akzeptiert werden. Prüfe außerdem die Liste der Unterauftragnehmer, also der Dienstleister, die der Anbieter selbst einsetzt. Für kostenlose oder private Versionen gibt es meist keinen AV-Vertrag. Schon deshalb sind sie für Kundendaten ungeeignet.
Serverstandort und Drittlandübermittlung
Werden Daten außerhalb der EU und des Europäischen Wirtschaftsraums verarbeitet, liegt eine Drittlandübermittlung vor. Dafür brauchst du eine zusätzliche Grundlage. Für US-Anbieter, die nach dem EU-US Data Privacy Framework zertifiziert sind, gibt es derzeit einen Angemessenheitsbeschluss der EU-Kommission. Ob ein Anbieter zertifiziert ist, lässt sich in einer öffentlichen Liste prüfen. Andernfalls kommen meist Standardvertragsklauseln zum Einsatz, ergänzt um eine Bewertung der Risiken im Zielland.
Viele Anbieter bieten inzwischen eine Datenverarbeitung in der EU an. Das vereinfacht vieles. Beachte aber, dass auch Support-Zugriffe und Unterauftragnehmer aus Drittländern eine Übermittlung darstellen können. Weil sich die Rechtslage in diesem Bereich schon mehrfach geändert hat, solltest du den aktuellen Stand regelmäßig prüfen.
Schritt 3: Tarif, Training und Einstellungen prüfen
Zwischen der kostenlosen Version eines KI-Tools und dem Business-Tarif liegen für den Datenschutz oft Welten. Bei Verbraucherversionen behalten sich viele Anbieter vor, Eingaben zur Verbesserung ihrer Modelle zu nutzen, solange du das nicht abschaltest. In Business- und Enterprise-Tarifen sagen die großen Anbieter in der Regel zu, Eingaben nicht für das Training zu verwenden. Verlass dich dabei nicht auf Marketingseiten, sondern prüfe die Vertragsbedingungen und die Einstellungen in der Admin-Konsole.
Diese Punkte schaue ich mir bei jedem Tool an:
- Werden Eingaben und Dateien für das Training genutzt, und lässt sich das vertraglich ausschließen?
- Wie lange speichert der Anbieter Chatverläufe, hochgeladene Dateien und Protokolle? Manche Anbieter bewahren Eingaben zur Missbrauchserkennung eine Zeit lang auf, auch wenn das Training ausgeschlossen ist.
- Können Administratoren Verläufe löschen, Aufbewahrungsfristen einstellen und Funktionen gezielt abschalten?
- Gibt es Single Sign-on, Zwei-Faktor-Authentifizierung und eine Rechteverwaltung?
- Welche Verbindungen zu anderen Systemen bietet das Tool, etwa zu E-Mail, Kalender oder Laufwerken, und welche davon sind standardmäßig aktiv?
Der letzte Punkt wird oft unterschätzt. Ein KI-Assistent mit Zugriff auf eure Laufwerke findet alles, was der jeweilige Nutzer sehen darf. Sind die Berechtigungen über Jahre gewachsen, findet er auch die Gehaltsliste im falsch freigegebenen Ordner. Bevor du so einen Assistenten einführst, lohnt sich ein Blick auf die Zugriffsrechte.
Schritt 4: Datenminimierung, Pseudonymisierung und Löschkonzept
Der wirksamste Datenschutz ist, Daten gar nicht erst an die KI zu geben. Für viele Aufgaben braucht die KI keine Namen, Adressen oder Kundennummern. Ein Antwortentwurf auf eine Reklamation wird nicht schlechter, wenn statt „Frau Müller aus Potsdam“ einfach „die Kundin“ im Text steht.
Bei der Pseudonymisierung werden identifizierende Merkmale durch Platzhalter ersetzt. Das senkt das Risiko deutlich. Wichtig zu wissen: Pseudonymisierte Daten bleiben personenbezogene Daten, solange sich der Bezug wiederherstellen lässt. Echte Anonymisierung ist schwieriger, als viele denken, gerade bei Freitext. In automatisierten Abläufen kann ein vorgeschalteter Schritt Namen, IBAN oder Telefonnummern entfernen, bevor der Text an das KI-Modell geht.
Zum Löschkonzept gehören bei KI mehr Orte, als man auf den ersten Blick denkt: Chatverläufe, hochgeladene Dateien, Transkripte, Protokolle der Automatisierung und die KI-Ergebnisse, die etwa im CRM gespeichert werden. Lege für jeden Ort eine Frist fest und richte, wo möglich, eine automatische Löschung ein. Wie das für Kundendaten im CRM aussieht, beschreibe ich im Artikel CRM DSGVO-konform betreiben.
Ein typisches Szenario: Eine mittelständische Hausverwaltung möchte eingehende Mieteranfragen per KI vorsortieren. Die Anfragen enthalten Namen, Adressen, Bankverbindungen und manchmal sehr persönliche Schilderungen. Ein sauberes Setup sieht dann etwa so aus: ein Anbieter mit EU-Datenverarbeitung und AV-Vertrag, ein vorgeschalteter Schritt, der Bankverbindungen und Telefonnummern vor der Übergabe automatisch entfernt, und Protokolle der Automatisierung, die nach kurzer Frist gelöscht werden. Der Datenschutzbeauftragte prüft vorab und dokumentiert, ob eine Datenschutz-Folgenabschätzung nötig ist, und die Datenschutzhinweise werden ergänzt. Wie so eine Vorsortierung technisch funktioniert, zeige ich im Artikel zur KI-gestützten Vorsortierung im Postfach.
Schritt 5: DSFA, Transparenz und Datenschutzbeauftragter
Datenschutz-Folgenabschätzung
Eine Datenschutz-Folgenabschätzung, kurz DSFA, ist nach Art. 35 DSGVO nötig, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Betroffenen mit sich bringt. Bei KI kann das etwa der Fall sein, wenn persönliche Aspekte von Menschen systematisch bewertet werden, zum Beispiel bei der Vorauswahl von Bewerbungen, wenn umfangreich besondere Kategorien verarbeitet werden oder wenn Beschäftigte systematisch überwacht werden. Die deutschen Aufsichtsbehörden führen zudem eine Liste von Verarbeitungen, für die eine DSFA immer erforderlich ist. Darin tauchen auch bestimmte KI-Einsätze auf. Für einfache Anwendungen wie Textentwürfe ohne Personenbezug ist eine DSFA dagegen meist nicht nötig. Dokumentiere aber kurz, wie du zu diesem Ergebnis kommst.
Eng damit verbunden ist Art. 22 DSGVO: Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung, die ausschließlich automatisiert getroffen werden, sind nur in engen Ausnahmen zulässig. Lass deshalb bei solchen Entscheidungen immer einen Menschen prüfen und entscheiden.
Information der Betroffenen
Nach Art. 13 und 14 DSGVO müssen Betroffene erfahren, wie ihre Daten verarbeitet werden. Wenn du einen KI-Dienst als neuen Empfänger einsetzt oder Daten in ein Drittland übermittelst, gehört das in deine Datenschutzhinweise, für Kunden ebenso wie für Beschäftigte. Für bestimmte Fälle, etwa wenn Menschen mit einem Chatbot kommunizieren, kommen Transparenzpflichten aus der EU-KI-Verordnung hinzu, die stufenweise gelten. Prüfe dafür den aktuellen Stand.
Rolle des Datenschutzbeauftragten
In Deutschland brauchst du einen Datenschutzbeauftragten, wenn in der Regel mindestens 20 Personen ständig mit der automatisierten Verarbeitung personenbezogener Daten beschäftigt sind, und in einigen weiteren Fällen, etwa wenn eine DSFA erforderlich ist. Hast du einen, gehört er von Anfang an ins KI-Projekt und nicht erst kurz vor dem Start. Er prüft Rechtsgrundlage, Verträge und die Notwendigkeit einer DSFA und hilft bei den Datenschutzhinweisen. Wichtig dabei: Er berät und kontrolliert, die Verantwortung bleibt aber beim Unternehmen und damit bei dir als Geschäftsführung, ob mit oder ohne Datenschutzbeauftragten.
Die Checkliste im Überblick
Diese Tabelle kannst du für jeden KI-Anwendungsfall durchgehen. Ein Häkchen in jeder Zeile heißt nicht, dass alles rechtlich abgesichert ist. Es heißt aber, dass du die wesentlichen Fragen gestellt hast.
| Prüfpunkt | Leitfrage |
|---|---|
| Datenkategorien | Welche personenbezogenen Daten fließen in die KI, und sind besondere Kategorien oder Beschäftigtendaten dabei? |
| Zweck | Ist der Zweck konkret beschrieben und im Verzeichnis der Verarbeitungstätigkeiten eingetragen? |
| Rechtsgrundlage | Auf welche Rechtsgrundlage stützt sich die Verarbeitung, und ist eine nötige Interessenabwägung dokumentiert? |
| AV-Vertrag | Ist ein Vertrag zur Auftragsverarbeitung abgeschlossen und die Liste der Unterauftragnehmer geprüft? |
| Drittland | Wo werden die Daten verarbeitet, und welche Grundlage gilt für eine Übermittlung außerhalb der EU? |
| Training | Ist vertraglich ausgeschlossen, dass Eingaben zum Training genutzt werden? |
| Einstellungen | Sind Zugriffsrechte, Anmeldung, Verbindungen zu anderen Systemen und Aufbewahrung sinnvoll konfiguriert? |
| Datenminimierung | Gehen nur die Daten an die KI, die für den Zweck nötig sind, und wird wo möglich pseudonymisiert? |
| Löschkonzept | Gibt es Fristen für Verläufe, Dateien, Transkripte, Protokolle und gespeicherte Ergebnisse? |
| DSFA | Ist geprüft und dokumentiert, ob eine Datenschutz-Folgenabschätzung nötig ist? |
| Automatisierte Entscheidungen | Prüft ein Mensch, bevor Entscheidungen mit spürbarer Wirkung für Personen getroffen werden? |
| Information | Sind die Datenschutzhinweise für Kunden und Beschäftigte aktualisiert? |
| Beteiligung | Sind Datenschutzbeauftragter und gegebenenfalls Betriebsrat eingebunden? |
| Regeln und Schulung | Wissen alle Nutzer, welche Daten in welches Tool dürfen? |
Die letzte Zeile ist die, an der es im Alltag am häufigsten hakt. Die Regeln für dein Team hältst du am besten in einer KI-Richtlinie fürs Unternehmen fest und erklärst sie in einer kurzen Schulung.
Fazit
KI DSGVO-konform einzusetzen ist für KMU machbar, ohne jede Anwendung monatelang zu prüfen. Der Kern ist immer derselbe: Wisse, welche Daten wohin fließen, wähle Tools mit passendem Vertrag, gib der KI nur so viel wie nötig und räum regelmäßig auf. Mein Rat für den ersten Schritt: Nimm dir den KI-Einsatz vor, der in deinem Unternehmen heute am häufigsten vorkommt, und geh die Tabelle oben gemeinsam mit deinem Datenschutzbeauftragten durch. Danach weißt du, wo du stehst, und hast eine Vorlage für jeden weiteren Anwendungsfall.
Häufige Fragen
Willst du deinen KI-Anwendungsfall datenschutzsauber umsetzen?
Ich setze KI-Anwendungsfälle so auf, dass Datenschutz von Anfang an mitgedacht ist: mit passenden Tools, Datenminimierung und sauberer Dokumentation. Die rechtliche Prüfung stimme ich dabei eng mit deinem Datenschutzbeauftragten ab.