KI und DSGVO: Checkliste zum Start

KI und DSGVO vertragen sich, wenn vor dem ersten Einsatz sechs Punkte geklärt sind: der Vertrag zur Auftragsverarbeitung mit dem Anbieter, die erlaubten Datenarten, der Transfer in Drittländer, der Ort der Verarbeitung, die Löschung und die Regeln für das Team. Verantwortlich bleibt Ihr Betrieb, nicht der Anbieter des Werkzeugs.

Grundlage dieses Artikels ist die Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ der Datenschutzkonferenz (DSK), des Gremiums der deutschen Aufsichtsbehörden (Version 1.0 vom 6. Mai 2024). Die Randnummern in Klammern verweisen auf dieses Papier. Stand aller Angaben: November 2026. Dieser Artikel ist keine Rechtsberatung und ersetzt nicht die Prüfung Ihres Einzelfalls.

Gilt die DSGVO für jeden KI-Einsatz?

Nein. Sie gilt, sobald personenbezogene Daten im Spiel sind: in der Eingabe, in der Ausgabe oder schon bei der Anmeldung am Werkzeug. Wer eine Kundenmail zusammenfassen lässt, verarbeitet die Daten des Kunden.

Dafür genügt oft wenig. Laut DSK reicht es regelmäßig nicht, Namen und Anschriften aus einer Eingabe zu entfernen, weil sich der Bezug zu einer Person auch aus dem Zusammenhang ergeben kann (Randnummer 49). Das Beispiel der DSK: Die Bitte um ein Arbeitszeugnis „für einen Kundenberater im Autohaus X“ kann einer Person zuzuordnen sein, wenn erkennbar ist, aus welchem Unternehmen und zu welchem Zeitpunkt sie kommt (Randnummern 50 und 51).

Vor der Checkliste steht ein Schritt: Legen Sie schriftlich fest, wofür das Werkzeug gedacht ist. Nur an einem vorab festgelegten Zweck lässt sich prüfen, welche Daten nötig sind (Randnummer 1) und welche Rechtsgrundlage trägt. Einen Überblick über die Rechtsgrundlagen gibt ein Diskussionspapier des Landesbeauftragten für den Datenschutz Baden-Württemberg (Version 2.0 vom 17. Oktober 2024).

Was gehört auf die Checkliste zu KI und DSGVO?

Die rechte Spalte nennt, was am Ende schriftlich vorliegen sollte.

Punkt	Frage	Nachweis
Vertrag	Gibt es für den Tarif einen Vertrag nach Art. 28 DSGVO? Ist Training mit Ihren Daten ausgeschlossen?	Vertrag ist geschlossen und abgelegt.
Datenarten	Welche Daten dürfen hinein, welche nie?	Liste mit Beispielen, die das Team kennt.
Drittland	Gehen Daten in ein Land außerhalb der EU? Auf welcher Grundlage?	Grundlage steht im Verzeichnis der Verarbeitungen.
Hosting	Wo wird verarbeitet: beim Anbieter, in einer EU-Region, im eigenen Haus?	Entscheidung ist begründet und notiert.
Löschung	Wie lange bleiben Verläufe und Dateien liegen?	Fristen sind eingestellt, jemand ist zuständig.
Team	Wer darf was mit welchem Werkzeug?	Schriftliche Regel und Dienstkonten.

Brauchen wir einen Vertrag mit dem Anbieter?

Meistens ja. Setzen Sie das Werkzeug eines externen Anbieters als Cloud-Dienst für eigene Zwecke ein, liegt laut DSK häufig eine Auftragsverarbeitung vor. Dann ist ein Vertrag nach Art. 28 Abs. 3 DSGVO zu schließen (Randnummer 32). Fragen Sie diesen Vertrag ab, bevor Sie einen Tarif buchen. Gibt es für einen Tarif keinen, scheidet er für personenbezogene Daten aus.

Der zweite Blick gilt dem Training. Die DSK hält Anwendungen für vorzugswürdig, die Ein- und Ausgaben nicht zu Trainingszwecken verwenden (Randnummer 24). Bei ChatGPT werden Inhalte in den Tarifen Free, Go, Plus und Pro laut Preisübersicht zum Training verwendet, solange man es nicht abwählt. Für ChatGPT Enterprise sagt OpenAI zu, Geschäftsdaten standardmäßig nicht dafür zu nutzen. Anthropic sagt das für seine Geschäftsprodukte ebenfalls zu. Stand: November 2026. Maßgeblich ist, was in Ihrem Vertrag steht.

Fragen Sie den Anbieter außerdem, wie das Modell trainiert wurde. Der Europäische Datenschutzausschuss hält in seiner Stellungnahme 28/2024 vom Dezember 2024 fest, dass sich eine unrechtmäßige Entwicklung eines Modells auf die Rechtmäßigkeit seines Einsatzes auswirken kann. Die Aufsichtsbehörden sollen dann berücksichtigen, ob sich der Betrieb, der das Modell einsetzt, angemessen vergewissert hat.

Welche Daten dürfen in die KI?

Teilen Sie Ihre Daten in drei Gruppen und schreiben Sie zu jeder Beispiele aus Ihrem Alltag auf.

• Ohne Personenbezug. Produkttexte und allgemeine Fachfragen. Aus Sicht des Datenschutzes frei.
• Personenbezogen. Kundenmails und Angebote mit Ansprechpartner. Nur im freigegebenen Werkzeug, mit Vertrag und Rechtsgrundlage. Die Betroffenen müssen davon erfahren, der KI-Einsatz gehört also in Ihre Datenschutzhinweise (Randnummer 48).
• Besonders geschützt. Gesundheitsdaten wie Krankmeldungen, dazu Angaben zu Religion oder Gewerkschaft. Ihre Verarbeitung ist nach Art. 9 DSGVO grundsätzlich verboten und nur in Ausnahmen erlaubt (Randnummer 62). In ein allgemeines KI-Werkzeug gehören sie nicht.

Für Bewerbungen und Personalfragen gilt zusätzlich: Entscheidungen mit rechtlicher Wirkung für eine Person darf nach Art. 22 DSGVO grundsätzlich nur ein Mensch treffen. Eine KI, die Bewerbungen auswertet und selbstständig Einladungen verschickt, nennt die DSK als Beispiel für einen Verstoß (Randnummern 12 und 13).

Was gilt, wenn Daten in die USA gehen?

Für die Übermittlung in ein Land außerhalb der EU und des Europäischen Wirtschaftsraums verlangt die DSGVO in Kapitel V eine eigene Grundlage. Bei KI-Diensten betrifft das häufig die USA.

Für die USA gibt es seit dem 10. Juli 2023 einen Angemessenheitsbeschluss der EU-Kommission zum EU-US Data Privacy Framework. Er gilt nur für US-Unternehmen, die an diesem Rahmen teilnehmen. Ob Ihr Anbieter dazugehört, zeigt die öffentliche Liste.

Das Gericht der EU hat eine Klage gegen den Beschluss am 3. September 2025 abgewiesen. Gegen dieses Urteil hat der Kläger am 31. Oktober 2025 ein Rechtsmittel beim Europäischen Gerichtshof eingelegt (Rechtssache C-703/25 P). Eine Entscheidung darüber ist uns nicht bekannt. Stand: November 2026.

Halten Sie im Verzeichnis der Verarbeitungstätigkeiten fest, worauf Sie die Übermittlung stützen. Die beiden Vorgänger des Beschlusses hat der Europäische Gerichtshof 2015 und 2020 für ungültig erklärt. Prüfen Sie deshalb, ob Ihr Vertrag zusätzlich Standardvertragsklauseln enthält.

Cloud, EU-Region oder eigene Hardware?

Die DSK nennt technisch geschlossene Systeme aus Sicht des Datenschutzes vorzugswürdig (Randnummer 20). Geschlossen heißt: abgegrenzte Umgebung, enger Nutzerkreis, Kontrolle über Ein- und Ausgaben, kein Training des Anbieters mit Ihren Daten.

Der Geschäftstarif eines Cloud-Anbieters ist am schnellsten eingerichtet. Eine zugesagte Verarbeitung in der EU vereinfacht die Frage des Drittlands, erledigt sie aber nicht: Es zählt, was im Vertrag und in der Liste der Unterauftragsverarbeiter steht. Ein Modell auf eigener Hardware hält die Daten im Haus, ist in der Regel kleiner und muss betrieben werden.

Für Assistenten, die aus eigenen Dokumenten antworten, hat die DSK eine Orientierungshilfe zu RAG-Systemen veröffentlicht (Version 1.0, Stand Oktober 2025). Danach lassen sich Zugriffsrechte an den Dokumenten und am Suchindex durchsetzen, und Einträge dort lassen sich gezielt berichtigen und löschen. Im Sprachmodell selbst lässt sich der Zugriff nicht steuern, und die Probleme bei der Löschung bleiben dort laut DSK bestehen. Wie die Technik arbeitet, erklärt der Artikel „RAG einfach erklärt“.

Wann werden Eingaben wieder gelöscht?

Personenbezogene Daten dürfen nur so lange gespeichert bleiben, wie der Zweck es verlangt. Bei KI-Werkzeugen liegen sie an mehreren Stellen: im Chatverlauf, in hochgeladenen Dateien, in Protokollen des Anbieters und bei eigenen Lösungen im Suchindex.

Klären Sie für jede dieser Stellen die Frist und wer löscht. Als datenschutzfreundliche Voreinstellung nennt die DSK, Konten für Beschäftigte von Beginn an so einzurichten, dass keine Eingaben ins Training gehen und kein Verlauf über die Sitzung hinaus gespeichert wird (Randnummer 43).

Verlangt eine Person die Löschung, lassen sich ihre Daten aus Dokumenten und Datenbanken entfernen. Was in ein Modell hineintrainiert wurde, lässt sich nach heutigem Stand kaum gezielt herausnehmen. Auch deshalb gehört das Training vertraglich ausgeschlossen.

Welche Regeln braucht das Team?

Ohne klare Regeln besteht das Risiko, dass Beschäftigte KI-Werkzeuge eigenmächtig nutzen. Die DSK geht davon aus, dass das in vielen Unternehmen bereits so ist (Randnummer 36). Für den Anfang genügt eine Seite mit vier Punkten:

• Zugelassene Werkzeuge und Zwecke, mit Beispielen für erlaubte und untersagte Fälle.
• Dienstkonten statt privater Konten. Die DSK rät zu Konten des Betriebs, möglichst mit einer Funktionsadresse statt eines Namens (Randnummern 41 und 42).
• Die Datenliste aus dem Abschnitt oben.
• Die Prüfpflicht. Ergebnisse mit Personenbezug werden geprüft, bevor jemand sie weiterverwendet (Randnummer 65).

Dazu kommt eine kurze Einweisung. Haben Sie einen Datenschutzbeauftragten, binden Sie ihn von Anfang an ein. Ob auch der Betriebsrat zu beteiligen ist, sollten Sie prüfen (Randnummer 31). Als Vorlage eignet sich die Checkliste des Hamburgischen Datenschutzbeauftragten zu Chatbots mit 15 Punkten (November 2023).

Wie die Einführung eines einzelnen Werkzeugs abläuft, steht im Artikel „ChatGPT im Unternehmen einführen“. Was daneben die KI-Verordnung der EU verlangt, steht unter EU-KI-Verordnung für kleine Unternehmen.

Wann ist eine Folgenabschätzung nötig?

Vor jeder Verarbeitung personenbezogener Daten steht eine Einschätzung des Risikos. Ergibt sie ein voraussichtlich hohes Risiko, verlangt Art. 35 DSGVO eine Datenschutz-Folgenabschätzung. Laut DSK wird das beim Einsatz von KI vielfach der Fall sein (Randnummern 38 und 39).

Die Muss-Liste der Aufsichtsbehörden für Unternehmen nennt unter Nr. 11 als Pflichtfall den Einsatz von KI, um die Interaktion mit Betroffenen zu steuern oder persönliche Aspekte einer Person zu bewerten. Ein Beispiel dort ist ein System, das Kunden im Gespräch berät und dafür ihre Daten verarbeitet.

Für kleine Betriebe hat das eine Nebenfolge. Ist eine Folgenabschätzung erforderlich, muss nach § 38 BDSG unabhängig von der Mitarbeiterzahl ein Datenschutzbeauftragter benannt sein. Stand: November 2026.

Wie setzen wir das in eigenen Projekten um?

Ein Teil der Checkliste lässt sich in Software einbauen. Zwei Beispiele aus unserer Arbeit.

In der Betriebsplattform für einen Dachdeckerbetrieb zeigen die Oberflächen, die Inhalte an ein Sprachmodell schicken, einen Hinweis auf den Drittlandtransfer. Die Schnittstelle für KI-Assistenten gibt überwiegend Kennungen statt Namen aus. Ein Assistent erhält die Rechte des angemeldeten Mitarbeiters und keine weiteren. Welche KI-Anbieter sich überhaupt verbinden dürfen, legt eine Freigabeliste fest. Einen Tagesplan kann die KI nur als Entwurf ablegen. Gültig wird der Entwurf erst durch einen Menschen.

In unserer Lernplattform KeinBock.io nennt eine öffentliche Seite die Dienstleister für Hosting, KI-Funktionen, Mailversand und Zahlungen. Dort steht auch, dass die Server in Deutschland stehen und Inhalte für KI-Funktionen an Anbieter in den USA gehen. Vor der ersten Nutzung des KI-Assistenten bestätigen Nutzer einen Hinweis: Die KI kann sich irren, und volle Namen, Adressen oder Angaben zur Gesundheit gehören nicht in den Chat.

Solche Bausteine machen einen Einsatz nicht von selbst zulässig. Verträge und die Prüfung im Einzelfall bleiben Aufgabe des Betriebs, der die Software einsetzt. Deshalb sagen wir für kein System pauschal zu, es sei „DSGVO-konform“.

Nächster Schritt

Schreiben Sie für ein konkretes Vorhaben auf, welches Werkzeug mit welchen Daten wofür genutzt werden soll, und gehen Sie die sechs Punkte der Tabelle durch. Offene Rechtsfragen klären Sie mit Ihrem Datenschutzbeauftragten oder einer Rechtsberatung. Was wir für die technische Seite anbieten, steht unter KI mit eigenen Daten.