Ratgeber · KI im Marketing: Recht und Governance
KI und Datenschutz im Unternehmen: Wie Sie Kundendaten in KI-Werkzeugen rechtssicher nutzen – Rechtsgrundlage, Auftragsverarbeitung, Drittlandübermittlung, Folgenabschätzung und Betriebsvereinbarung
Tobias Schott und Amelie Schott · Geschäftsführung Racoon Media | Lesezeit ca. 36 Minuten | Rechtsstand: Oktober 2026
Racoon-Ratgeber Nr. 20 · Fachwissen für Marketing, Vertrieb und Einkauf · Lesezeit ca. 36 Minuten · Alle Ratgeber ansehen »
Titelgrafik und Schaubilder dieses Ratgebers: Visualisierungen, KI-generiert.
Sobald ein Mitarbeiter eine Kunden-E-Mail in ein KI-Werkzeug kopiert, verarbeitet das Unternehmen personenbezogene Daten – mit allen Pflichten der Datenschutz-Grundverordnung. Das gilt für den Vertriebsleiter, der ein Angebot von einem Sprachmodell formulieren lässt. Es gilt für die Marketingabteilung, die Kundenbewertungen automatisch auswertet, für den Chatbot auf der Website und für die Transkription des Kundentermins. 57 Prozent der deutschen Unternehmen setzen 2026 KI ein, und 66 Prozent von ihnen nennen den Datenschutz als größtes Hemmnis. Die Aufsichtsbehörden haben 2025 und 2026 gezeigt, was sie meinen: 825 Millionen Euro gegen eine Fahrdienst-Plattform wegen automatisierter Kontosperren, 492.000 Euro gegen ein Hamburger Finanzunternehmen wegen algorithmischer Kreditkarten-Ablehnungen. Dieser Ratgeber erklärt, wann KI-Nutzung eine Datenverarbeitung ist und welche Rechtsgrundlage trägt. Er zeigt, was im Vertrag mit dem KI-Anbieter stehen muss, wie Sie mit Anbietern aus den USA umgehen, wann eine Folgenabschätzung Pflicht ist und welche Rolle der Betriebsrat spielt. Und er zeigt, wie Sie das in einem Prozess organisieren, der im Alltag von Marketing, Vertrieb und Kundenservice funktioniert. Welche Abläufe sich überhaupt für KI eignen, bevor es um Daten geht, prüft der Ratgeber KI im Unternehmensalltag.
Das Wichtigste in Kürze
- Jede Eingabe zählt: Wer Namen, E-Mails, Gesprächsnotizen, Bewertungen oder Fotos in ein KI-Werkzeug eingibt, verarbeitet personenbezogene Daten (Art. 4 Nr. 2 DSGVO). Er braucht eine Rechtsgrundlage nach Art. 6 DSGVO – meist Vertragserfüllung (lit. b) oder berechtigtes Interesse (lit. f) mit dokumentierter Abwägung.
- Der Anbieter ist Auftragsverarbeiter, wenn er die Daten nur für Sie verarbeitet. Dann ist ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO Pflicht – mit ausdrücklichem Ausschluss des Trainings mit Ihren Eingaben. Nutzt der Anbieter die Daten für eigene Zwecke, ist er selbst Verantwortlicher. Dann brauchen Sie eine Rechtsgrundlage für die Weitergabe.
- Drittland USA: Übermittlungen an Anbieter mit Zertifizierung unter dem EU-US Data Privacy Framework sind seit dem Angemessenheitsbeschluss vom 10. Juli 2023 zulässig. Das Gericht der EU hat ihn am 3. September 2025 bestätigt; das Rechtsmittel (C-703/25 P) ist beim Gerichtshof anhängig. Für alle anderen Anbieter gelten Standardvertragsklauseln plus Transfer-Folgenabschätzung.
- Datenschutz-Folgenabschätzung (Art. 35 DSGVO) ist Pflicht, wenn KI die Interaktion mit Betroffenen steuert oder persönliche Aspekte bewertet. So die Muss-Liste der deutschen Aufsichtsbehörden, die „Kundensupport mittels künstlicher Intelligenz“ ausdrücklich nennt.
- Keine automatisierten Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung ohne echte menschliche Prüfung (Art. 22 DSGVO). Das 825-Millionen-Bußgeld vom August 2026 fiel, weil die „menschliche Prüfung“ nur ein symbolischer Akt war.
- Mitarbeiter und Betriebsrat: KI-Werkzeuge, die Leistung oder Verhalten der Beschäftigten erfassen können, unterliegen der Mitbestimmung nach § 87 Abs. 1 Nr. 6 BetrVG. Seit dem 2. Februar 2025 verlangt Art. 4 KI-Verordnung zudem ausreichende KI-Kompetenz des Personals.
- Organisation statt Verbot: KI-Richtlinie, freigegebene Werkzeugliste, Verzeichnis der Verarbeitungstätigkeiten, Datenschutzerklärung, Löschfristen und Schulung machen die Nutzung nachweisbar rechtmäßig. Verstöße kosten bis zu 20 Millionen Euro oder 4 Prozent des Jahresumsatzes (Art. 83 DSGVO).
Keine Zeit, das selbst umzusetzen? Wir übernehmen die praktische Umsetzung in Ihrem Betrieb – von der Planung bis zum fertigen Ergebnis. Rechts- und Steuerfragen klären Ihre Fachleute, um den Rest kümmern wir uns.
Rechtsstand: Oktober 2026. Grundlage sind Art. 4, 5, 6, 9, 13–17, 22, 25, 28, 30, 32, 33, 35, 36, 44–49, 58, 82, 83, 88 DSGVO; § 26 und § 38 BDSG; §§ 80, 87, 90 BetrVG; § 201 StGB; § 2 GeschGehG; Art. 4, 5, 26, 50 KI-Verordnung (EU) 2024/1689 in der Fassung der Omnibus-Verordnung (EU) 2026/1744; der Angemessenheitsbeschluss (EU) 2023/1795 (Data Privacy Framework) und der Durchführungsbeschluss (EU) 2021/914 (Standardvertragsklauseln); die Rechtsprechung EuGH 07.12.2023 (C-634/21), 27.02.2025 (C-203/22), 30.03.2023 (C-34/21), EuG 03.09.2025 (T-553/23), OLG Köln 23.05.2025 (15 UKl 2/25), ArbG Hamburg 16.01.2024 (24 BVGa 1/24); die Bußgeldentscheidungen AP/CNIL 17.08.2026, HmbBfDI 30.09.2025, GPDP 12.03.2026, BfDI 03.06.2025, HDPA 10.09.2025; die Orientierungshilfen der DSK (KI und Datenschutz 06.05.2024, TOM bei KI-Systemen 17.06.2025, RAG-Systeme 17.10.2025), die EDSA-Stellungnahme 28/2024 und die Bitkom-Studien 2025/2026. Verfahrensstand: Das Rechtsmittel gegen das DPF-Urteil (C-703/25 P) ist beim EuGH anhängig, der Angemessenheitsbeschluss gilt weiter. Der „Digital Omnibus“ der Kommission vom 19. November 2025 (u. a. KI-Entwicklung und -Betrieb als berechtigtes Interesse mit Widerspruchsrecht) wird im Rat verhandelt; die Mitgliedstaaten strebten am 7. Oktober 2026 eine gemeinsame Position an, das Parlament will seine Position erst Anfang 2027 festlegen, danach beginnt der Trilog. Am 21. Oktober 2026 hat der Rat sein Mandat beschlossen; was darin zu KI-Training, Auskunft und Cookies steht, zeigt unser Ratgeber zum Digital Omnibus. Das Beschäftigtendatengesetz liegt als Referentenentwurf vom Oktober 2024 vor und ist nicht beschlossen. Die Hochrisiko-Pflichten der KI-Verordnung für Beschäftigungs-KI gelten ab dem 2. Dezember 2027. Offene Fragen: ob das berechtigte Interesse KI-Training mit Kundendaten trägt (OLG Köln bejaht im Eilverfahren, die BfDI widerspricht, Hauptsache offen); ob die Nutzung privater KI-Konten im Betrieb mitbestimmungsfrei ist (ArbG Hamburg bejaht, die Literatur widerspricht, keine BAG-Entscheidung); und ob Sprachmodelle selbst personenbezogene Daten speichern (Hamburg verneint, EDSA differenziert). Dieser Ratgeber ersetzt keine Rechtsberatung und keine Prüfung durch Ihre Datenschutzbeauftragte oder Ihren Datenschutzbeauftragten.
Wann ist KI-Nutzung eine Datenverarbeitung – und wann nicht?
Die Nutzung eines KI-Werkzeugs ist eine Verarbeitung personenbezogener Daten, sobald in der Eingabe, im Kontext oder in der Ausgabe Informationen über eine identifizierte oder identifizierbare Person stecken (Art. 4 Nr. 1 und 2 DSGVO). Das ist häufiger der Fall, als Anwender annehmen. Eine Kunden-E-Mail enthält Namen, Signatur und Sachverhalt. Ein Gesprächsprotokoll enthält Einschätzungen zu Personen. Eine Leadliste enthält Kontaktdaten, ein Messefoto Gesichter. Eine Bewertung nennt den Rezensenten und oft den Mitarbeiter. Auch Daten über Ansprechpartner in Unternehmen sind personenbezogen – die DSGVO unterscheidet nicht zwischen B2B und B2C. Keine Verarbeitung personenbezogener Daten liegt vor, wenn Sie ein Sprachmodell nach allgemeinen Formulierungen fragen, einen Produkttext überarbeiten lassen, Marktinformationen zusammenfassen oder Code erzeugen. Die Grenze verläuft also nicht zwischen „KI ja oder nein“, sondern zwischen Eingaben mit und ohne Personenbezug. Genau das muss eine KI-Richtlinie erklären.
Eine zweite Frage betrifft das Modell selbst. Der Hamburgische Beauftragte für Datenschutz hat in einem Diskussionspapier vom 15. Juli 2024 die Auffassung vertreten, dass ein großes Sprachmodell als solches keine personenbezogenen Daten speichert. Betroffenenrechte richteten sich deshalb nicht gegen das Modell, wohl aber gegen Eingabe und Ausgabe. Der Europäische Datenschutzausschuss hat in seiner Stellungnahme 28/2024 vom 18. Dezember 2024 differenziert: Ein KI-Modell kann anonym sein, muss es aber nicht. Entscheidend ist, ob personenbezogene Daten mit vernünftigerweise wahrscheinlichen Mitteln aus dem Modell extrahiert oder durch Abfragen gewonnen werden können. Für Unternehmen, die fertige Modelle nutzen, bleibt die Konsequenz dieselbe: Die Rechtmäßigkeit hängt an dem, was Sie hineingeben und herausholen. Wer eigene Modelle mit Kundendaten trainiert oder eine Wissensdatenbank anbindet (RAG), braucht dafür eine eigene Rechtsgrundlage. Die DSK hat dazu am 17. Oktober 2025 eine eigene Orientierungshilfe veröffentlicht: RAG heilt kein rechtswidrig trainiertes Modell, erleichtert aber Kontrolle, lokalen Betrieb und die Umsetzung von Betroffenenrechten.
Welche Rechtsgrundlage trägt die KI-Nutzung mit Kundendaten?
Die Verarbeitung von Kundendaten in einem KI-Werkzeug braucht wie jede Verarbeitung eine Rechtsgrundlage nach Art. 6 Abs. 1 DSGVO. Die KI ändert daran nichts, sie ist nur ein weiteres Mittel. In der Praxis kommen drei Grundlagen in Betracht. Erstens die Vertragserfüllung (Art. 6 Abs. 1 lit. b): Wenn das KI-Werkzeug dazu dient, einen Vertrag mit dem Kunden zu erfüllen oder anzubahnen – ein Angebot schreiben, eine Anfrage beantworten, einen Auftrag bearbeiten –, trägt diese Grundlage. Voraussetzung ist, dass die Verarbeitung dafür erforderlich ist. Zweitens das berechtigte Interesse (Art. 6 Abs. 1 lit. f) für Auswertungen, die nicht unmittelbar der Vertragserfüllung dienen: Stimmungsanalyse von Bewertungen, Zusammenfassung von Gesprächsverläufen, Segmentierung von Kundengruppen, Entwurf von Werbetexten auf Basis von Kundendaten. Hier ist eine dokumentierte Interessenabwägung nötig. Welches Interesse verfolgen Sie, ist die KI-Verarbeitung dafür erforderlich, und überwiegen die Interessen der Betroffenen? Der EDSA nennt als Faktoren die Art der Daten, den Kontext, die vernünftigen Erwartungen der Betroffenen und die Schutzmaßnahmen. Ein Kunde, der eine Beschwerde schreibt, rechnet damit, dass sie bearbeitet wird – nicht damit, dass sie in ein Trainingsset wandert. Drittens die Einwilligung (Art. 6 Abs. 1 lit. a). Sie ist für den laufenden Betrieb unpraktisch, weil jederzeit widerrufbar. Notwendig ist sie für besondere Kategorien nach Art. 9 DSGVO, für die Aufzeichnung und KI-Transkription von Telefonaten (dazu § 201 StGB) und für Anwendungen, die die Erwartungen der Betroffenen deutlich übersteigen.
Drei Grundsätze aus Art. 5 DSGVO schränken jede dieser Grundlagen ein. Die Zweckbindung verbietet, Daten aus einem Auftrag ohne Prüfung für die Modellentwicklung oder für völlig andere Analysen zu nutzen. Eine Weiterverarbeitung ist nur zulässig, wenn der neue Zweck mit dem alten vereinbar ist (Art. 6 Abs. 4). Die Datenminimierung verlangt, nur die Daten einzugeben, die das Werkzeug für die Aufgabe braucht. Ein Sprachmodell, das eine Antwort auf eine Beschwerde formulieren soll, braucht den Sachverhalt – nicht Kundennummer, Bankverbindung und Bestellhistorie. Pseudonymisierung vor der Eingabe (Namen durch Platzhalter ersetzen) ist die wirksamste Einzelmaßnahme; die Datenschutzkonferenz empfiehlt sie in ihrer Orientierungshilfe vom 6. Mai 2024. Und die Richtigkeit (Art. 5 Abs. 1 lit. d) wird bei generativer KI zum eigenen Problem. Sprachmodelle erzeugen plausible, aber nicht zwingend richtige Aussagen über Personen. Wer KI-Ausgaben über Kunden speichert, muss sie prüfen und korrigierbar halten. Die DSK betont, dass Verantwortliche für die Richtigkeit der Ergebnisse einstehen.
Streitfrage: Trägt das berechtigte Interesse auch KI-Training mit Kundendaten?
Für die Nutzung fertiger Werkzeuge ist das berechtigte Interesse gut begründbar. Umstritten ist, ob es auch das Training eigener Modelle mit Kundendaten trägt. Das OLG Köln hat am 23. Mai 2025 (15 UKl 2/25) im Eilverfahren entschieden, dass ein Plattformbetreiber öffentlich geteilte Nutzerdaten für das KI-Training nutzen darf. Grundlage war das berechtigte Interesse – mit Transparenz, Widerspruchsmöglichkeit, De-Identifizierung und Zweckbindung. Die Bundesdatenschutzbeauftragte hat die Entscheidung öffentlich kritisiert, das Hauptsacheverfahren ist offen. Die Kommission will die Frage im Digital Omnibus ausdrücklich regeln: KI-Entwicklung und -Betrieb sollen als berechtigtes Interesse gelten, verbunden mit einem Widerspruchsrecht nach Art. 21 DSGVO. Der Rat verhandelte im Oktober 2026 noch über seine Position, das Parlament prüft über 1.500 Änderungsanträge und will Anfang 2027 abstimmen. Für den Mittelstand heißt das: Wer heute ein Modell mit Kundendaten feinjustieren will, bewegt sich auf unsicherem Grund. Sicherer ist, Kundendaten nicht ins Training zu geben, sondern per RAG anzubinden – dann bleiben sie löschbar, und die Rechtsgrundlage ist die der jeweiligen Abfrage. Entscheiden Sie sich trotzdem für das Training, dokumentieren Sie die Abwägung so, wie das OLG Köln sie verlangt hat. Dazu gehören die Information der Betroffenen vorab, ein einfacher Widerspruch und die Entfernung direkter Identifikatoren. Daten aus laufenden Verträgen bleiben ohne Vereinbarkeitsprüfung außen vor.
Auftragsverarbeitung: Was im Vertrag mit dem KI-Anbieter stehen muss
Der KI-Anbieter ist Auftragsverarbeiter im Sinne von Art. 4 Nr. 8 DSGVO, wenn er Ihre Eingaben ausschließlich nach Ihrer Weisung und für Ihre Zwecke verarbeitet. Dann ist ein Vertrag über die Auftragsverarbeitung (kurz: AV-Vertrag) nach Art. 28 Abs. 3 DSGVO Pflicht, und zwar vor der ersten Eingabe. Die meisten Anbieter stellen dafür einen vorformulierten Vertrag bereit. Im Geschäftskundentarif ist er Bestandteil der Nutzungsbedingungen oder muss gesondert angenommen werden. Bei Verbrauchertarifen und kostenfreien Versionen fehlt er häufig – und genau dort behalten sich Anbieter oft vor, Eingaben zur Verbesserung ihrer Modelle zu nutzen. Dann ist der Anbieter nicht Auftragsverarbeiter, sondern eigener Verantwortlicher für diese Zweckänderung. Sie geben Kundendaten an einen Dritten weiter, ohne dass eine Rechtsgrundlage das trägt. Die wichtigste Entscheidung bei der Werkzeugauswahl lautet deshalb: Geschäftstarif mit AV-Vertrag und vertraglichem Trainingsausschluss – oder gar nicht mit Kundendaten.
Art. 28 Abs. 3 DSGVO schreibt den Mindestinhalt des Vertrags vor: Gegenstand, Dauer, Art und Zweck der Verarbeitung, Art der Daten und Kategorien der Betroffenen. Dazu die Verarbeitung nur auf dokumentierte Weisung, die Vertraulichkeitsverpflichtung der Mitarbeiter des Anbieters, technische und organisatorische Maßnahmen nach Art. 32, Regeln für Unterauftragsverarbeiter mit Genehmigungs- oder Widerspruchsrecht, Unterstützung bei Betroffenenrechten, Folgenabschätzung und Datenpannen, Löschung oder Rückgabe nach Vertragsende sowie Nachweis- und Prüfrechte. Bei KI-Anbietern sind fünf Punkte besonders zu prüfen. Erstens der Trainingsausschluss. Steht ausdrücklich im Vertrag, dass Eingaben und Ausgaben nicht zum Training oder zur Verbesserung der Modelle verwendet werden? Auch nicht in anonymisierter Form, wenn Sie das nicht wollen? Zweitens die Speicherdauer: Viele Anbieter halten Eingaben bis zu 30 Tage zur Missbrauchskontrolle vor, manche bieten eine Null-Speicherung an. Drittens der Verarbeitungsort und die Liste der Unterauftragsverarbeiter – Modellbetreiber, Rechenzentren, Support-Dienstleister –, denn daran hängt die Drittlandfrage. Viertens die Frage, ob der Anbieter Ihre Daten zur Missbrauchsprüfung durch Menschen einsehen darf, und unter welchen Bedingungen. Fünftens die Kündigungs- und Exportregeln: Was passiert mit hochgeladenen Dokumenten, Wissensdatenbanken und Gesprächsverläufen bei Vertragsende? Die DSK verlangt, dass Verantwortliche diese Fragen vor dem Einsatz klären und dokumentieren. „Wir nutzen nur den Geschäftstarif“ ist kein Nachweis – der Vertrag ist es.
Dass Art. 28 kein Papiertiger ist, zeigen die Bußgelder: Die Bundesdatenschutzbeauftragte verhängte am 3. Juni 2025 gegen ein Telekommunikationsunternehmen 15 Millionen Euro allein für die unzureichende Kontrolle seiner Partneragenturen als Auftragsverarbeiter. Die griechische Aufsicht ahndete am 10. September 2025 einen fehlenden AV-Vertrag mit einem Franchisepartner mit 700.000 Euro. Ein Sonderfall sind KI-Funktionen in bestehenden Werkzeugen – Bürosoftware, CRM, Videokonferenz, Helpdesk. Hier erweitert sich der bestehende Vertrag durch Zusatzbedingungen, und meist kommen neue Unterauftragsverarbeiter hinzu, denen Sie widersprechen können. Prüfen Sie bei jeder Freischaltung, ob sich Unterauftragsverarbeiter, Verarbeitungsort oder Speicherdauer geändert haben. Die Freischaltung durch den Administrator ist eine Entscheidung des Verantwortlichen. Dasselbe gilt für Geschäftsgeheimnisse: Kalkulationen, Kundenlisten und Verträge, die in ein Werkzeug ohne Vertraulichkeitszusage wandern, verlieren den Schutz des Geschäftsgeheimnisgesetzes (§ 2 Nr. 1 GeschGehG). Geheimhaltungsvereinbarungen mit Kunden erfassen die Eingabe in Werkzeuge Dritter in der Regel mit (dazu Ratgeber Nr. 04 und Nr. 07).
Drittlandübermittlung: Anbieter aus den USA und anderen Ländern
Verarbeitet der Anbieter oder einer seiner Unterauftragsverarbeiter die Daten außerhalb des Europäischen Wirtschaftsraums, liegt eine Drittlandübermittlung vor. Sie braucht zusätzlich zur Rechtsgrundlage und zum AV-Vertrag ein Übermittlungsinstrument nach Art. 44 ff. DSGVO. Für die USA ist das seit dem Angemessenheitsbeschluss der Kommission vom 10. Juli 2023 das EU-US Data Privacy Framework (DPF). Übermittlungen an US-Unternehmen, die sich beim US-Handelsministerium unter dem DPF zertifiziert haben, gelten als angemessen geschützt – ohne Standardvertragsklauseln, ohne zusätzliche Maßnahmen. Ob der Anbieter zertifiziert ist, prüfen Sie in der öffentlichen DPF-Liste. Die Zertifizierung muss aktiv sein und auch Nicht-Personaldaten abdecken. Das Gericht der Europäischen Union hat eine Nichtigkeitsklage gegen den Beschluss am 3. September 2025 abgewiesen (T-553/23). Der Kläger hat Rechtsmittel beim Gerichtshof eingelegt (C-703/25 P). Er rügt vor allem, dass das US-Überprüfungsgericht nicht unabhängig genug sei und die Massenüberwachung keine vorherige unabhängige Genehmigung brauche. Bis zur Entscheidung bleibt der Beschluss in Kraft. Nach den Erfahrungen mit „Safe Harbor“ und „Privacy Shield“ sollten Unternehmen einen Plan B dokumentieren. Dazu gehören Standardvertragsklauseln in der Schublade und Werkzeuge, die sich kurzfristig auf eine Verarbeitung in der EU umstellen lassen.
Für Anbieter ohne DPF-Zertifizierung, für andere Drittländer ohne Angemessenheitsbeschluss und als Rückfalllösung gelten die Standardvertragsklauseln der Kommission (Durchführungsbeschluss (EU) 2021/914). Hinzu kommt eine Transfer-Folgenabschätzung: Sie prüfen, ob das Recht des Ziellandes den Schutz der Klauseln aushebelt, und ergreifen gegebenenfalls zusätzliche Maßnahmen wie Verschlüsselung oder Pseudonymisierung vor der Übermittlung. Wie teuer das Versäumnis werden kann, zeigte die irische Aufsicht am 2. Mai 2025: 530 Millionen Euro gegen eine Social-Media-Plattform, davon 485 Millionen für nicht nachgewiesenes Schutzniveau bei Zugriffen aus China. Viele Anbieter bieten inzwischen eine Verarbeitung in Rechenzentren im EWR an. Prüfen Sie aber, ob Support, Missbrauchskontrolle und Protokolldaten ebenfalls im EWR bleiben, denn der Fernzugriff aus einem Drittland ist bereits eine Übermittlung. Die konservativste Lösung ist der Betrieb eines offenen Modells auf eigener oder europäischer Infrastruktur – mit voller eigener Verantwortung für Sicherheit und Betrieb. Welche Lösung passt, hängt von der Sensibilität der Daten ab. Für Werbetexte und Zusammenfassungen ist ein zertifizierter US-Anbieter mit AV-Vertrag tragfähig. Für Gesundheits- und Bewerberdaten oder Vertragsdetails von Schlüsselkunden sollte die Verarbeitung im EWR die Regel sein.
Wann ist eine Datenschutz-Folgenabschätzung Pflicht?
Eine Datenschutz-Folgenabschätzung (DSFA) nach Art. 35 DSGVO ist durchzuführen, wenn eine Verarbeitung – insbesondere bei neuen Technologien – voraussichtlich ein hohes Risiko für die Rechte und Freiheiten der Betroffenen zur Folge hat. Die deutschen Aufsichtsbehörden haben in ihrer gemeinsamen Muss-Liste nach Art. 35 Abs. 4 DSGVO (Stand 17. Oktober 2018) den Einsatz künstlicher Intelligenz ausdrücklich aufgenommen. Nummer 11 erfasst KI, die personenbezogene Daten verarbeitet, um die Interaktion mit den Betroffenen zu steuern oder persönliche Aspekte zu bewerten. Als typisches Einsatzfeld nennt sie den „Kundensupport mittels künstlicher Intelligenz“. Ein Chatbot, der Kundenanfragen beantwortet, ein Scoring nach Abwanderungsrisiko oder Zahlungsfähigkeit, eine KI-gestützte Bewerbervorauswahl, die Stimmungsauswertung von Gesprächen – all das löst die DSFA-Pflicht aus. Was speziell bei KI in der Bewerberauswahl gilt, erklärt unser Ratgeber zum Bewerberdatenschutz. Nicht ausgelöst wird sie durch die bloße Formulierungshilfe. Wer ein Sprachmodell nutzt, um eine Antwort besser zu formulieren, steuert keine Interaktion und bewertet niemanden. Im Graubereich dazwischen – etwa die automatische Kategorisierung eingehender Anfragen – sollte die Entscheidung begründet dokumentiert werden. Im Zweifel ist die DSFA durchzuführen. Die spanische Aufsicht hat am 8. Juli 2025 eine Fitnessstudio-Kette mit 96.000 Euro belegt, weil der Zutritt nur per Gesichtserkennung möglich war – ohne Rechtsgrundlage und ohne Folgenabschätzung.
Die DSFA selbst ist ein strukturiertes Dokument (Art. 35 Abs. 7): Beschreibung der Verarbeitung, Bewertung von Notwendigkeit und Verhältnismäßigkeit, Bewertung der Risiken und die Abhilfemaßnahmen. Typische KI-Risiken sind unrichtige oder diskriminierende Ergebnisse, fehlende Nachvollziehbarkeit, Offenlegung von Daten anderer Kunden über das Modell, Überwachungsdruck bei Mitarbeitern und Zweckentfremdung durch den Anbieter. Die Orientierungshilfe der DSK zu technischen und organisatorischen Maßnahmen bei KI-Systemen vom 17. Juni 2025 nennt die Gegenmaßnahmen: Pseudonymisierung vor der Eingabe, Zugriffskonzepte, Protokollierung, Qualitätsprüfung, menschliche Freigabe vor Außenwirkung, Löschkonzepte, Schulung. Die Datenschutzbeauftragte ist zu beteiligen (Art. 35 Abs. 2). Bleibt ein hohes Risiko, ist die Aufsichtsbehörde vorab zu konsultieren (Art. 36). Entscheidend ist die Konsequenz: Kommt die DSFA zum Ergebnis, dass der Chatbot keine Vertragsentscheidungen trifft, muss der Betrieb das auch einhalten.
Automatisierte Entscheidungen, Profiling und Betroffenenrechte
Art. 22 DSGVO gibt jeder Person das Recht, keiner ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihr gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Der Europäische Gerichtshof hat in der Rechtssache C-634/21 (Urteil vom 7. Dezember 2023, SCHUFA) klargestellt: Bereits die automatisierte Erstellung eines Wahrscheinlichkeitswerts kann eine solche Entscheidung sein, wenn ein Dritter maßgeblich darauf abstellt. Für KI im Vertrieb und Kundenservice heißt das: Ein System entscheidet, ob ein Kunde ein Angebot, einen Rabatt, eine Kulanzleistung, eine Lieferung auf Rechnung oder einen Vertrag erhält. Nickt ein Mensch das Ergebnis nur noch ab, liegt eine automatisierte Entscheidung vor. Sie ist nur unter den Ausnahmen des Art. 22 Abs. 2 zulässig – Vertragserfüllung mit Schutzmaßnahmen, ausdrückliche Einwilligung oder gesetzliche Grundlage. Die Betroffenen haben dann das Recht auf menschliches Eingreifen, Darlegung des eigenen Standpunkts und Anfechtung (Art. 22 Abs. 3).
Wie ernst die Behörden das nehmen, zeigen zwei Fälle. Die niederländische Datenschutzbehörde verhängte am 17. August 2026 gemeinsam mit der französischen CNIL ein Bußgeld von 825 Millionen Euro gegen eine Fahrdienst-Plattform. Sie hatte zwischen 2020 und 2022 Fahrerkonten algorithmisch gesperrt – bei Betrugsverdacht und nach schlechten Bewertungen –, ohne die Logik offenzulegen. Das Amsterdamer Berufungsgericht hatte die „menschliche Prüfung“ schon 2023 als symbolischen Akt eingestuft. Das Unternehmen hat Berufung angekündigt. Näher am Mittelstand ist der Hamburger Fall: Der Hamburgische Datenschutzbeauftragte verhängte am 30. September 2025 492.000 Euro gegen ein Finanzunternehmen, das Kreditkartenanträge trotz guter Bonität rein algorithmisch abgelehnt hatte. Auf Nachfrage der Kunden erklärte es die Gründe nicht ausreichend. Das Bußgeld fiel trotz umfangreicher Kooperation. Der Hamburger Beauftragte Thomas Fuchs brachte es auf den Punkt: Entscheidet eine Software über Menschen, muss die Stelle die tragenden Gründe verständlich erklären können. Die praktische Lösung ist, KI-Ergebnisse als Entscheidungshilfe zu nutzen, nicht als Entscheidung. Der Mitarbeiter muss Zeit, Kompetenz und Befugnis haben, vom Vorschlag abzuweichen. Ein Klick, der in 100 Prozent der Fälle dem System folgt, ist keine menschliche Entscheidung. Messen Sie deshalb, wie oft Ihre Prüfer tatsächlich abweichen – liegt die Quote bei null, haben Sie eine automatisierte Entscheidung.
Die Betroffenenrechte gelten für KI-gestützte Verarbeitungen uneingeschränkt. Die Informationspflichten (Art. 13, 14) verlangen, dass Ihre Datenschutzerklärung die KI-Verarbeitung erfasst: Zweck, Rechtsgrundlage, Empfänger (die Anbieter als Auftragsverarbeiter), Drittlandübermittlung mit Übermittlungsinstrument, Speicherdauer und – bei automatisierten Entscheidungen – Logik und Tragweite. Ein Website-Chatbot braucht einen Hinweis vor der ersten Eingabe, der zugleich die Transparenzpflicht des Art. 50 KI-Verordnung erfüllt (dazu Ratgeber Nr. 01). Das Auskunftsrecht (Art. 15) erfasst auch KI-erzeugte Zusammenfassungen, Bewertungen und Protokolle. Der EuGH hat am 27. Februar 2025 (C-203/22) entschieden, was „aussagekräftige Informationen über die involvierte Logik“ bedeutet: Der Betroffene muss nachvollziehen können, welche seiner Daten für ein konkretes Ergebnis verwendet wurden. Eine komplexe Formel reicht nicht, und das Geschäftsgeheimnis befreit nicht von der Auskunft – im Zweifel legt der Verantwortliche die Informationen der Aufsichtsbehörde oder dem Gericht vor. Das Recht auf Berichtigung (Art. 16) greift bei unrichtigen KI-Ausgaben über eine Person. Das Recht auf Löschung (Art. 17) verlangt, dass Sie wissen, wo Kundendaten liegen: im CRM, in Gesprächsverläufen beim Anbieter, in hochgeladenen Wissensdatenbanken, in Transkripten. Die DSK fordert, dass Betroffenenrechte bei KI-Systemen technisch umsetzbar sein müssen, bevor sie eingesetzt werden.
KI im Verhältnis zu Mitarbeitern: Betriebsrat, Beschäftigtendaten, KI-Kompetenz
KI-Werkzeuge verarbeiten nicht nur Kundendaten, sondern fast immer auch Beschäftigtendaten. Wer hat wann was eingegeben? Wie viele Anfragen hat ein Mitarbeiter beantwortet? Wie wurden seine Gespräche bewertet? Für Beschäftigtendaten gilt § 26 BDSG, der nach dem EuGH-Urteil vom 30. März 2023 (C-34/21) nur noch im Rahmen von Art. 6 und Art. 88 DSGVO anzuwenden ist. Praktisch bleibt die Erforderlichkeit für das Beschäftigungsverhältnis der Maßstab. Ein eigenes Beschäftigtendatengesetz mit Regeln zu Profiling und KI am Arbeitsplatz liegt seit Oktober 2024 als Referentenentwurf vor und ist bis heute nicht beschlossen. Entscheidender ist die Mitbestimmung. Nach § 87 Abs. 1 Nr. 6 BetrVG hat der Betriebsrat mitzubestimmen bei der Einführung und Anwendung technischer Einrichtungen, die dazu bestimmt sind, Verhalten oder Leistung der Arbeitnehmer zu überwachen. Nach ständiger Rechtsprechung des Bundesarbeitsgerichts genügt dafür die objektive Eignung zur Überwachung, nicht erst die Absicht. Ein KI-System, das Nutzungsprotokolle erzeugt, Antwortzeiten misst oder Gesprächsqualität bewertet, ist objektiv geeignet. Die Einführung ohne Betriebsvereinbarung kann der Betriebsrat per einstweiliger Verfügung stoppen. Eine Betriebsvereinbarung KI regelt typischerweise zugelassene Werkzeuge und Zwecke, Grenzen der Leistungs- und Verhaltenskontrolle, Protokollierung und Löschfristen, Auswertungsrechte, Schulung und die Beteiligung bei neuen Werkzeugen. Nach § 80 Abs. 3 BetrVG kann der Betriebsrat für KI-Fragen einen Sachverständigen hinzuziehen, nach § 90 Abs. 1 Nr. 3 BetrVG ist er bei der Planung zu unterrichten. Ohne Betriebsrat ersetzt eine KI-Richtlinie als Arbeitgeberweisung die Vereinbarung.
Streitfrage: Ist die Nutzung privater KI-Konten mitbestimmungsfrei?
Das Arbeitsgericht Hamburg hat am 16. Januar 2024 (24 BVGa 1/24) ein Mitbestimmungsrecht verneint. Der Fall: Beschäftigte nutzten Sprachmodelle freiwillig über private Konten im Browser, und der Arbeitgeber hatte keinen Zugriff auf die Nutzungsdaten beim Anbieter. Seit August 2026 werten kostenlose ChatGPT-Konten das laufende Gespräch zudem für Werbung aus; mehr dazu in unserem Ratgeber zu Werbung in ChatGPT. Ohne Zugriff kein Überwachungsdruck, so die Begründung. Die Entscheidung wird gern zitiert, um KI-Nutzung ohne Betriebsrat einzuführen. Das ist aus zwei Gründen riskant. Erstens ist sie eine Eilentscheidung eines Arbeitsgerichts; eine Entscheidung des Bundesarbeitsgerichts gibt es nicht, und die arbeitsrechtliche Literatur widerspricht in Teilen. Zweitens ist der Fall datenschutzrechtlich die schlechteste aller Lösungen: Private Konten haben keinen AV-Vertrag, keinen Trainingsausschluss und keine Kontrolle. Wer Kundendaten auf diesem Weg verarbeiten lässt, kauft sich die Mitbestimmungsfreiheit mit einem DSGVO-Verstoß. Unsere Empfehlung: Führen Sie Geschäftstarife ein, beteiligen Sie den Betriebsrat und regeln Sie die private Nutzung in derselben Vereinbarung – als Verbot für Kundendaten.
Die KI-Verordnung ergänzt das um zwei Pflichten, die seit dem 2. Februar 2025 gelten. Art. 4 KI-VO verlangt von Betreibern, dass ihr Personal über ein ausreichendes Maß an KI-Kompetenz verfügt. Maßstab sind die Werkzeuge, die es nutzt, und die Personen, die davon betroffen sind. Jeder Nutzer muss wissen, was das Werkzeug kann und nicht kann, welche Daten eingegeben werden dürfen, wie Ergebnisse zu prüfen sind und was bei Fehlern zu tun ist. Die Schulung ist zu dokumentieren. Immerhin 70 Prozent der KI-nutzenden Unternehmen schulen laut Bitkom 2026 ihre Beschäftigten; 2025 hatten noch 43 Prozent gar keine Schulung. Art. 5 KI-VO verbietet unter anderem die Emotionserkennung am Arbeitsplatz. Das betrifft Funktionen in Callcenter- und Vertriebssoftware, die „Gesprächsstimmung“ oder „Engagement“ von Beschäftigten messen. Für Kunden gelten die DSGVO und die Transparenzpflicht des Art. 50 Abs. 3 KI-VO. KI-Systeme für Personalentscheidungen gelten als Hochrisiko-Systeme; ihre Betreiberpflichten gelten nach der Omnibus-Verordnung ab dem 2. Dezember 2027.
Der Prozess: KI-Nutzung mit Kundendaten in sieben Schritten organisieren
- Inventar: Welche KI-Werkzeuge werden im Unternehmen genutzt – offiziell und inoffiziell? Eine anonyme Umfrage und ein Blick auf Browser-Erweiterungen und Abonnements ergeben meist eine längere Liste als erwartet. Laut Bitkom bestätigten 2025 ein Viertel der Unternehmen Schatten-KI im Betrieb, ein weiteres Sechstel vermutete sie. Die Nutzung privater Konten ist das größte Risiko, weil dort weder Vertrag noch Trainingsausschluss existieren.
- Werkzeugliste mit Freigabestufen: Für jedes Werkzeug wird entschieden, ob es gar nicht, nur ohne Personenbezug oder mit Kundendaten genutzt werden darf. Grundlage sind AV-Vertrag, Trainingsausschluss, Verarbeitungsort und DPF-Status.
- Rechtsgrundlage und Dokumentation: Jede freigegebene Nutzung mit Kundendaten kommt ins Verzeichnis der Verarbeitungstätigkeiten (Art. 30 DSGVO) – Zweck, Rechtsgrundlage, Datenkategorien, Empfänger, Drittland, Löschfrist. Für Nutzungen auf Basis des berechtigten Interesses wird die Abwägung schriftlich festgehalten.
- Datenschutz-Folgenabschätzung für Anwendungen, die Interaktionen steuern oder Personen bewerten, mit Beteiligung der Datenschutzbeauftragten.
- Transparenz: Datenschutzerklärung ergänzen, Chatbot-Hinweis einbauen, Informationen für Mitarbeiter nach Art. 13 aktualisieren.
- Regeln für die Nutzer: eine KI-Richtlinie, die in verständlicher Sprache sagt, was erlaubt ist. Pseudonymisieren vor der Eingabe, keine besonderen Kategorien, keine Geschäftsgeheimnisse in nicht freigegebene Werkzeuge, Prüfung jeder Ausgabe vor Außenwirkung, Kennzeichnung nach Art. 50 KI-VO. Verbunden mit der Betriebsvereinbarung, wo ein Betriebsrat besteht, und mit der dokumentierten Schulung nach Art. 4 KI-VO. Nur 23 Prozent der Unternehmen hatten 2025 eine solche Richtlinie.
- Kontrolle: jährliche Prüfung der Werkzeugliste, der Unterauftragsverarbeiter-Listen und des DPF-Status, Prüfung neuer KI-Funktionen vor der Freischaltung und ein Meldeweg für Fehleingaben. Ein Kundendatensatz in einem nicht freigegebenen Werkzeug kann eine Datenpanne sein, die innerhalb von 72 Stunden zu melden ist (Art. 33 DSGVO).
Entscheidungshilfe: Welche Freigabestufe für welches Werkzeug?
Wenn ein Werkzeug keinen AV-Vertrag bietet oder sich das Training mit Eingaben vorbehält, erhält es die Stufe „nur ohne Personenbezug“. Ist das im Alltag nicht kontrollierbar, erhält es gar keine Freigabe. Wenn es Vertrag und Trainingsausschluss bietet, aber Daten außerhalb des EWR ohne DPF-Zertifizierung verarbeitet, bleibt es bei „ohne Personenbezug“, bis Standardvertragsklauseln und Transfer-Folgenabschätzung vorliegen. Wenn Vertrag, Trainingsausschluss und DPF-Zertifizierung oder EWR-Verarbeitung vorliegen, darf es mit pseudonymisierten Kundendaten genutzt werden. Wenn das Werkzeug zusätzlich Interaktionen steuert oder Personen bewertet – Chatbot, Scoring, Gesprächsauswertung –, kommt die Folgenabschätzung dazu und, bei Beschäftigtenbezug, die Betriebsvereinbarung. Und wenn es besondere Kategorien, Bewerberdaten oder Vertragsdetails von Schlüsselkunden verarbeiten soll, gilt die strengste Stufe: Verarbeitung im EWR, Null-Speicherung oder eigener Betrieb, Einwilligung, wo Art. 9 sie verlangt.
Rechenbeispiel: Was der Geschäftstarif kostet – und was sein Fehlen
Ein anonymisiertes Beispiel aus der Beratung: Ein Dienstleister mit 40 Beschäftigten stellt fest, dass 18 Mitarbeiter ein Sprachmodell nutzen. Zwölf davon arbeiten über private oder kostenfreie Konten – mit Kundenanfragen, Angeboten und Gesprächsnotizen. Die Umstellung auf einen Geschäftstarif kostet rund 25 Euro je Nutzer und Monat, für 18 Nutzer also etwa 5.400 Euro im Jahr. Hinzu kommen einmalig rund zwei Beratertage für Werkzeugliste, Verzeichnis, Richtlinie und Schulung sowie ein halber Tag im Jahr für die Kontrolle. Die Gegenrechnung: Schon das Hamburger Bußgeld von 492.000 Euro traf ein einzelnes Unternehmen, das kooperierte und seinen Prozess verbesserte. Der Schadensersatz nach Art. 82 DSGVO liegt in deutschen Urteilen für den bloßen Kontrollverlust meist zwischen 100 und 1.000 Euro je Betroffenem. Bei 300 Kunden, deren Beschwerden über ein Verbrauchertarif-Konto in ein Trainingsset gelangt sind, sind das rechnerisch 30.000 bis 300.000 Euro. Anwalts- und Verfahrenskosten, Untersagung und Reputationsschaden kommen hinzu. Der Geschäftstarif ist, auf fünf Jahre gerechnet, günstiger als ein einziger ernsthafter Vorfall. Und er ist die Voraussetzung dafür, dass die Nutzung überhaupt rechtmäßig sein kann.
Sanktionen: Bußgeld, Schadensersatz, Untersagung
Verstöße gegen die DSGVO bei der KI-Nutzung werden nach Art. 83 DSGVO mit Bußgeldern bis zu 20 Millionen Euro oder 4 Prozent des weltweiten Jahresumsatzes geahndet, wenn es um Rechtsgrundlagen, Betroffenenrechte oder Drittlandübermittlungen geht. Bis zu 10 Millionen Euro oder 2 Prozent drohen bei Verstößen gegen Art. 28, 30, 32, 33 und 35 – also fehlendem AV-Vertrag, fehlendem Verzeichnis, unzureichender Sicherheit, unterlassener Meldung oder fehlender Folgenabschätzung. Die Praxis 2025 und 2026 reicht von 96.000 Euro (Gesichtserkennung ohne Folgenabschätzung) über 492.000 Euro (automatisierte Kreditkarten-Ablehnung) und 17,6 Millionen Euro (italienische Bank, automatisierte Kundenauswahl ohne Rechtsgrundlage, 12. März 2026) bis zu 825 Millionen Euro. Umgekehrt zeigt der Fall des ChatGPT-Anbieters, dass Bußgelder nicht in Stein gemeißelt sind. Die 15 Millionen Euro der italienischen Aufsicht vom Dezember 2024 hat ein italienisches Gericht im März 2026 aufgehoben. Für Anwender ist das Risiko weniger das Millionenbußgeld als die Untersagung nach Art. 58 Abs. 2 DSGVO, die einen laufenden Chatbot oder eine Auswertung von heute auf morgen stoppen kann. Hinzu kommt der Schadensersatz nach Art. 82 DSGVO. Betroffene können materiellen und immateriellen Schaden ersetzt verlangen, und der Europäische Gerichtshof hat seit 2023 klargestellt, dass auch der Kontrollverlust über die eigenen Daten ein ersatzfähiger Schaden sein kann. Eine Kundendatei, die über einen Verbrauchertarif in ein Trainingsset gelangt ist, ist genau das.
Musterformulierungen für Richtlinie, Anbieteranfrage und Datenschutzerklärung
Kernregeln einer einseitigen KI-Richtlinie: „Für Kundendaten nutzen wir ausschließlich die in der Werkzeugliste freigegebenen Dienste im Geschäftstarif. Private oder kostenfreie Konten sind für dienstliche Inhalte untersagt. Vor jeder Eingabe werden Namen, Kontaktdaten und Kundennummern durch Platzhalter ersetzt. Gesundheits-, Bewerber- und Finanzdaten werden nicht eingegeben. Jede Ausgabe wird vor der Weitergabe nach außen geprüft und bei Bedarf gekennzeichnet. Fehleingaben melden wir sofort an …, ohne Nachteile für die meldende Person.“
Anfrage an den KI-Anbieter vor Vertragsschluss: „Bitte bestätigen Sie schriftlich: (1) Sie verarbeiten unsere Eingaben und Ausgaben ausschließlich als Auftragsverarbeiter nach Art. 28 DSGVO und nicht zum Training oder zur Verbesserung Ihrer Modelle; (2) Speicherdauer der Eingaben und Option der Null-Speicherung; (3) vollständige Liste der Unterauftragsverarbeiter mit Verarbeitungsorten; (4) DPF-Zertifizierung oder Standardvertragsklauseln für jede Verarbeitung außerhalb des EWR; (5) Bedingungen menschlicher Einsichtnahme zur Missbrauchsprüfung; (6) Export und Löschung aller Inhalte bei Vertragsende.“
Absatz für die Datenschutzerklärung: „Zur Bearbeitung Ihrer Anfragen und zur Erstellung von Angeboten setzen wir KI-gestützte Werkzeuge des Anbieters … ein, der die Daten als Auftragsverarbeiter nach Art. 28 DSGVO ausschließlich nach unserer Weisung verarbeitet. Rechtsgrundlage ist Art. 6 Abs. 1 lit. b DSGVO (Vertragserfüllung) bzw. lit. f (berechtigtes Interesse an effizienter Bearbeitung). Eine Übermittlung in die USA erfolgt auf Grundlage des EU-US Data Privacy Framework. Eingaben werden nach … Tagen gelöscht. Entscheidungen mit rechtlicher Wirkung treffen ausschließlich unsere Mitarbeiterinnen und Mitarbeiter.“
Praxisbeispiel: Angebote mit KI und Kundendaten
Der Vertrieb will Angebotsentwürfe mit einem KI-Werkzeug schreiben und dafür Namen, Gesprächsnotizen und Preise der Kunden eingeben. So wird es rechtssicher:
1. Rechtsgrundlage: Die Daten dienen der Vertragsanbahnung. Das trägt die Verarbeitung, solange nur eingegeben wird, was für das Angebot nötig ist.
2. Vertrag mit dem Anbieter: Ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO, mit ausdrücklichem Ausschluss des Trainings mit den Eingaben.
3. Anbieter aus den USA: Ist er unter dem Data Privacy Framework zertifiziert, ist die Übermittlung zulässig. Die Zertifizierung wird vorher geprüft und abgelegt.
4. Mitarbeiter: Kann das Werkzeug Leistung oder Verhalten erfassen, hat der Betriebsrat mitzubestimmen. Alle Nutzer werden geschult, wie Art. 4 der KI-Verordnung es verlangt.
5. Dokumentation: Eintrag im Verzeichnis der Verarbeitungstätigkeiten, Hinweis in der Datenschutzerklärung, Löschfrist für Eingaben und Ergebnisse.
Rechtsgrundlagen zum Nachschlagen
- DSGVO: Art. 4 Nr. 1, 2, 7, 8 (Begriffe), Art. 5 (Grundsätze), Art. 6 Abs. 1 lit. a, b, f und Abs. 4 (Rechtsgrundlagen, Weiterverarbeitung), Art. 9 (besondere Kategorien), Art. 13, 14 (Informationspflichten), Art. 15–17 (Auskunft, Berichtigung, Löschung), Art. 21 (Widerspruch), Art. 22 (automatisierte Entscheidungen), Art. 25 (Datenschutz durch Technikgestaltung), Art. 28 (Auftragsverarbeitung; Abs. 3 Mindestinhalt), Art. 30 (Verzeichnis), Art. 32 (Sicherheit), Art. 33, 34 (Datenpannen, 72 Stunden), Art. 35, 36 (Folgenabschätzung, Konsultation), Art. 44–49 (Drittlandübermittlung), Art. 58 (Abhilfebefugnisse), Art. 82 (Schadensersatz), Art. 83 (Bußgelder – 10/20 Millionen Euro, 2/4 Prozent), Art. 88 (Beschäftigtendaten).
- EU-US Data Privacy Framework: Durchführungsbeschluss (EU) 2023/1795 der Kommission vom 10. Juli 2023; EuG, Urteil vom 3. September 2025, T-553/23 (Klage abgewiesen); Rechtsmittel C-703/25 P beim EuGH anhängig. Standardvertragsklauseln: Durchführungsbeschluss (EU) 2021/914 vom 4. Juni 2021.
- Europäischer Gerichtshof: 7. Dezember 2023, C-634/21 (SCHUFA – Scoring als automatisierte Entscheidung); 27. Februar 2025, C-203/22 (Dun & Bradstreet – Umfang der Auskunft über die Logik, Geschäftsgeheimnis); 30. März 2023, C-34/21 (Beschäftigtendatenschutz, § 26 BDSG).
- Deutsche Gerichte: OLG Köln, 23. Mai 2025, 15 UKl 2/25 (KI-Training mit öffentlichen Nutzerdaten auf Basis des berechtigten Interesses, Eilverfahren); ArbG Hamburg, 16. Januar 2024, 24 BVGa 1/24 (keine Mitbestimmung bei privaten KI-Konten ohne Arbeitgeberzugriff).
- Bußgeldentscheidungen: Autoriteit Persoonsgegevens mit CNIL, 17. August 2026 (825 Millionen Euro, Art. 22); HmbBfDI, 30. September 2025 (492.000 Euro, automatisierte Kreditkarten-Ablehnung); GPDP, 12. März 2026 (17,6 Millionen Euro, automatisierte Kundenauswahl); AEPD, 8. Juli 2025 (96.000 Euro, Gesichtserkennung ohne DSFA) und 21. November 2025 (750.000 Euro, KI-Prüfungsaufsicht); BfDI, 3. Juni 2025 (15 Millionen Euro, Kontrolle von Auftragsverarbeitern); HDPA, 10. September 2025 (700.000 Euro, fehlender AV-Vertrag); DPC, 2. Mai 2025 (530 Millionen Euro, Drittlandübermittlung).
- BDSG: § 26 (Beschäftigtendaten), § 38 (Datenschutzbeauftragter – Benennungspflicht ab 20 Personen mit ständiger automatisierter Verarbeitung oder bei DSFA-Pflicht). BetrVG: § 80 Abs. 3 (Sachverständiger bei KI), § 87 Abs. 1 Nr. 6 (Mitbestimmung bei technischen Überwachungseinrichtungen), § 90 Abs. 1 Nr. 3 (Unterrichtung bei KI-Einsatz). StGB: § 201 (Vertraulichkeit des Wortes). GeschGehG: § 2 Nr. 1 (angemessene Geheimhaltungsmaßnahmen).
- KI-Verordnung (EU) 2024/1689 in der Fassung der Omnibus-Verordnung (EU) 2026/1744: Art. 4 (KI-Kompetenz, seit 2. Februar 2025), Art. 5 (verbotene Praktiken, u. a. Emotionserkennung am Arbeitsplatz), Art. 26 (Betreiberpflichten Hochrisiko – eigenständige Systeme ab 2. Dezember 2027, Produkt-Komponenten ab 2. August 2028), Art. 50 (Transparenzpflichten, seit 2. August 2026 – Ratgeber Nr. 01).
- Aufsichtsbehörden: DSK, Orientierungshilfe „Künstliche Intelligenz und Datenschutz“, Version 1.0 vom 6. Mai 2024; DSK, Orientierungshilfe zu technischen und organisatorischen Maßnahmen bei Entwicklung und Betrieb von KI-Systemen, 17. Juni 2025; DSK, Orientierungshilfe zu KI-Systemen mit Retrieval Augmented Generation (RAG), 17. Oktober 2025; DSK, Liste der Verarbeitungstätigkeiten nach Art. 35 Abs. 4 DSGVO für den nicht-öffentlichen Bereich, Version 1.1 vom 17. Oktober 2018 (Nr. 11: Einsatz künstlicher Intelligenz); HmbBfDI, Diskussionspapier „Large Language Models und personenbezogene Daten“ vom 15. Juli 2024; EDSA, Stellungnahme 28/2024 zu KI-Modellen vom 18. Dezember 2024.
- In Beratung (nicht in Kraft): „Digital Omnibus“ der Kommission vom 19. November 2025 (u. a. KI-Entwicklung und -Betrieb als berechtigtes Interesse mit Widerspruchsrecht, Pseudonymisierung, Cookie-Regeln) – Ratsposition Oktober 2026 angestrebt, Parlamentsposition Anfang 2027, danach Trilog; Beschäftigtendatengesetz – Referentenentwurf Oktober 2024, nicht beschlossen; Richtlinie zur Plattformarbeit – Umsetzung bis 2. Dezember 2026 (menschliche Letztentscheidung bei Kontosperren).
- Zahlen: Bitkom, September 2026 (603 Unternehmen ab 20 Beschäftigten: 57 % KI-Einsatz, 66 % Datenschutz als Hemmnis, 70 % schulen); Bitkom Research, Oktober 2025 (604 Unternehmen: 25 % bestätigen Schatten-KI, 23 % haben KI-Richtlinien, 26 % offiziellen Zugang zu generativer KI).
Aus der eigenen Praxis
Die Werkzeugliste vor der Richtlinie. Als wir unsere eigene KI-Nutzung geordnet haben, war der erste Schritt nicht die Richtlinie, sondern das Inventar. Welche Konten gibt es? Welche sind Geschäftstarife mit AV-Vertrag, welche private Anmeldungen aus der Anfangszeit? Das Ergebnis waren wenige freigegebene Werkzeuge mit Vertrag und Trainingsausschluss und eine Liste von Anwendungen nur ohne Personenbezug. Dazu die Regel, dass Kundendaten vor der Eingabe pseudonymisiert werden – der Kunde heißt im Prompt „der Kunde“. Die Richtlinie hat eine Seite. Die Werkzeugliste ist das Dokument, das wirklich gepflegt wird.
Der Chatbot, der nichts entscheidet. Bei einem KI-Assistenten für Kundenanfragen haben wir mit dem Kunden zuerst die Folgenabschätzung geschrieben. Dabei fiel die Entscheidung, dass der Assistent informiert, vorsortiert und Termine vorschlägt, aber keine Zusagen zu Preisen, Fristen oder Kulanz macht. Jede Antwort mit Vertragsbezug geht an einen Menschen. Der Hinweis vor der ersten Eingabe erfüllt Art. 50 KI-VO und Art. 13 DSGVO zugleich, Gesprächsverläufe werden nach 30 Tagen gelöscht, der Anbieter verarbeitet im EWR. Die Folgenabschätzung hat die Architektur bestimmt, nicht umgekehrt.
Was das für Ihre Rolle bedeutet
Geschäftsführung
Sie sind Verantwortliche im Sinne der DSGVO – auch für die Schatten-Nutzung privater KI-Konten im Betrieb. Beauftragen Sie das Inventar, entscheiden Sie über Geschäftstarife mit Vertrag und Trainingsausschluss, und lassen Sie Werkzeugliste, Verzeichnis und Schulungen dokumentieren. Ohne Betriebsvereinbarung, wo ein Betriebsrat besteht, kein Rollout.
Marketingleitung
Kundenbewertungen, Gesprächsnotizen und Leadlisten sind personenbezogene Daten – pseudonymisieren Sie vor der Eingabe und wählen Sie nur freigegebene Werkzeuge. KI-gestützte Segmentierung und Auswertungen brauchen eine dokumentierte Interessenabwägung, die Datenschutzerklärung muss die KI-Verarbeitung nennen, und KI-Ausgaben mit Außenwirkung unterliegen der Kennzeichnungspflicht nach Art. 50 KI-VO.
Vertriebsleitung
Angebote und Antworten per Sprachmodell sind zulässig auf Basis der Vertragsanbahnung – mit den Daten, die dafür nötig sind. Gesprächsaufzeichnung und KI-Transkription brauchen die Einwilligung aller Beteiligten; Emotionsanalyse ist für Beschäftigte verboten. KI-Scorings über Kunden sind Entscheidungshilfe, keine Entscheidung – Ihr Team muss abweichen dürfen, und Sie sollten messen, wie oft es das tut.
Einkauf
Prüfen Sie bei jedem KI-Werkzeug vor Vertragsschluss: AV-Vertrag nach Art. 28, Trainingsausschluss, Speicherdauer, Liste der Unterauftragsverarbeiter, Verarbeitungsort, DPF-Zertifizierung oder Standardvertragsklauseln, Exportregeln bei Vertragsende. Verlangen Sie die Zusagen schriftlich – Marketingaussagen auf der Anbieterwebsite sind kein Vertrag.
Datenschutz und Compliance
Verzeichnis um KI-Nutzungen ergänzen, Folgenabschätzung für Chatbots, Scorings und Bewertungssysteme, Transfer-Folgenabschätzung für Anbieter außerhalb des DPF. Löschkonzept auf Gesprächsverläufe und Wissensdatenbanken beim Anbieter erweitern, Auskunftsprozess auf KI-Logik nach EuGH C-203/22 vorbereiten. Meldeweg für Fehleingaben einrichten, Schulung nach Art. 4 KI-VO dokumentieren – und jährlich DPF-Status und Unterauftragsverarbeiter-Listen prüfen.
Die häufigsten Fehler
- Private oder kostenfreie Konten für Kundendaten. Kein Vertrag, kein Trainingsausschluss, keine Rechtsgrundlage für die Weitergabe – der häufigste und folgenreichste Fehler.
- „Der Anbieter ist DSGVO-konform“ als Nachweis. Die Rechtmäßigkeit Ihrer Verarbeitung weisen nur Ihr Vertrag, Ihr Verzeichnis und Ihre Abwägung nach.
- Vollständige Datensätze statt Pseudonyme. Datenminimierung gilt auch im Prompt – Name, Kundennummer und Historie gehören selten hinein.
- KI-Funktionen in bestehenden Werkzeugen einfach freischalten. Neue Unterauftragsverarbeiter, neuer Verarbeitungsort, neue Speicherdauer – jede Freischaltung ist eine Entscheidung des Verantwortlichen.
- Chatbot ohne Folgenabschätzung. Kundensupport mittels KI steht ausdrücklich auf der Muss-Liste der Aufsichtsbehörden.
- Scoring als Entscheidung mit Alibi-Prüfung. Wer dem System immer folgt, trifft eine automatisierte Entscheidung nach Art. 22 – 825 Millionen und 492.000 Euro sind der Preis dafür gewesen.
- Auskunft mit „Geschäftsgeheimnis“ verweigern. Seit EuGH C-203/22 müssen Sie erklären können, welche Daten zu welchem Ergebnis geführt haben.
- Einführung ohne Betriebsrat. Protokolle und Auswertungen machen fast jedes KI-Werkzeug zur mitbestimmungspflichtigen Überwachungseinrichtung.
- Datenschutzerklärung nicht angepasst. KI-Anbieter als Empfänger, Drittlandübermittlung und Speicherdauer fehlen in den meisten Erklärungen.
- Löschkonzept endet am CRM. Gesprächsverläufe, Transkripte und hochgeladene Wissensdatenbanken beim Anbieter gehören dazu.
Warum Racoon Media?
Racoon Media ist Marketing-Agentur und Unternehmensberatung in Rodgau. Wir führen KI-Werkzeuge in Marketing, Vertrieb und Kundenservice mittelständischer Unternehmen ein und nutzen sie selbst täglich – mit Werkzeugliste, AV-Verträgen, Pseudonymisierungsregel und Schulung. Wir erstellen mit Ihnen das Inventar, die Freigabestufen, die KI-Richtlinie und die Schulung nach Art. 4 KI-VO und bereiten die Folgenabschätzung für Chatbots und Auswertungen vor. Die datenschutzrechtliche Prüfung im Einzelfall, die Betriebsvereinbarung und die Bewertung von Drittlandrisiken gehören in die Hand Ihrer Datenschutzbeauftragten und einer Rechtsanwältin oder eines Rechtsanwalts. Wir sagen Ihnen ehrlich, wo die Grenze unserer Beratung liegt.
Wir setzen um, was in diesem Ratgeber steht
Sie wollen KI mit Kundendaten nutzen – ohne offene Flanke?
Ein Ratgeber zeigt, was zu tun ist. Im Betriebsalltag fehlt dann oft die Zeit, es sauber umzusetzen. Genau dabei helfen wir Ihnen: Wir übernehmen die praktische Umsetzung in Ihrem Unternehmen: Ihre KI-Nutzung im Betrieb aufnehmen, Abläufe und Regeln mit Ihnen festhalten und Ihr Team schulen. Rechts- und Steuerfragen im Einzelfall klären Ihre Kanzlei oder Steuerberatung; wir setzen das Ergebnis in Ihrem Betrieb um. Melden Sie sich früh – so sparen Sie Zeit und Umwege.
In einem Erstgespräch gehen wir Ihre KI-Werkzeuge durch, prüfen Verträge, Trainingsausschluss und Verarbeitungsort, zeigen, welche Anwendungen eine Folgenabschätzung brauchen, und skizzieren, wie eine KI-Richtlinie aussieht, die Ihr Team versteht und einhält. Kostenfrei, unverbindlich, aus Rodgau für das Rhein-Main-Gebiet und darüber hinaus.
Lieber erst kurz sprechen? Rückruf anfragen · Per WhatsApp schreiben
Leistungsseiten: KI-Beratung · KI-Schulung · Coaching und Consulting
Fazit
KI-Werkzeuge ändern nichts an den Regeln des Datenschutzes – sie machen nur sichtbar, wo sie bisher nicht eingehalten wurden. Wer Kundendaten in ein Sprachmodell, einen Chatbot oder ein Analysewerkzeug gibt, braucht eine Rechtsgrundlage und einen AV-Vertrag mit Trainingsausschluss. Er braucht ein Übermittlungsinstrument für Anbieter außerhalb des EWR, bei Anwendungen im Kundenkontakt eine Folgenabschätzung, eine aktualisierte Datenschutzerklärung und – wo ein Betriebsrat besteht – eine Betriebsvereinbarung. Die Bußgelder der Jahre 2025 und 2026 zielen auf einen Punkt: Software, die über Menschen entscheidet, ohne dass ein Mensch wirklich prüft und erklären kann. Das ist in sieben Schritten organisierbar, deren Kern eine gepflegte Werkzeugliste und eine einseitige Richtlinie sind. KI zu verbieten funktioniert nicht: Mitarbeiter nutzen die Werkzeuge dann privat, ohne Vertrag und ohne Regeln. Besser ist es, die Nutzung zu ordnen, zu dokumentieren und zu schulen – dann wird der Datenschutz zum Nachweis, dass Ihr Unternehmen KI beherrscht.
Wenn trotz aller Vorsorge Daten in falsche Hände geraten, hilft Ratgeber Nr. 86 zur Datenpanne: Meldung binnen 72 Stunden, Benachrichtigung und Kundenbrief.
Vorlage zum Anfordern: KI-Datenschutz-Check für Marketing und Vertrieb
Vier Seiten: die Prüfliste zur Werkzeugfreigabe (AV-Vertrag, Trainingsausschluss, Speicherdauer, Unterauftragsverarbeiter, Verarbeitungsort, DPF-Status), die Vorlage für die Interessenabwägung nach Art. 6 Abs. 1 lit. f DSGVO, die Gliederung einer Folgenabschätzung für KI-Anwendungen im Kundenkontakt und das Muster einer einseitigen KI-Richtlinie für Mitarbeiter mit Pseudonymisierungsregel. Als bearbeitbare Dateien, ohne Kosten – kein Ersatz für die Prüfung durch Ihre Datenschutzbeauftragte oder Ihren Datenschutzbeauftragten. Fordern Sie die Vorlage über unser Kontaktformular mit dem Stichwort „KI-Datenschutz-Check“ an.
Das könnte Sie auch interessieren
Welche Kennzeichnungs- und Transparenzpflichten seit dem 2. August 2026 gelten.
Was ein Cookie-Banner 2026 leisten muss – und welches Tracking ohne Einwilligung geht.
Was die GEMA-Urteile gegen OpenAI und Suno für KI-Texte, KI-Bilder und KI-Musik im Marketing bedeuten.
Wie das Thema im Betriebsalltag eines Inhabers aussieht, erzählt unser Blog – dort in der Du-Form und mit Erfahrungen aus erster Hand.
Häufig gestellte Fragen
Ja, wenn das Werkzeug im Geschäftstarif mit AV-Vertrag und Trainingsausschluss genutzt wird, die Verarbeitung der Vertragserfüllung oder -anbahnung dient (Art. 6 Abs. 1 lit. b DSGVO) und Sie nur die Daten eingeben, die für die Antwort nötig sind. Namen und Kontaktdaten sollten vorher durch Platzhalter ersetzt werden.
Für jedes Werkzeug, in das personenbezogene Daten eingegeben werden, ja (Art. 28 DSGVO). Für Werkzeuge, die ausschließlich ohne Personenbezug genutzt werden – allgemeine Texte, Code, Marktinformationen –, ist er nicht erforderlich. Dann muss die Nutzung ohne Personenbezug aber durch die Richtlinie sichergestellt sein.
Ja, wenn der Anbieter unter dem EU-US Data Privacy Framework zertifiziert ist (Liste des US-Handelsministeriums) oder Standardvertragsklauseln mit Transfer-Folgenabschätzung vorliegen. Das Gericht der EU hat den Angemessenheitsbeschluss am 3. September 2025 bestätigt; das Rechtsmittel C-703/25 P ist anhängig. Dokumentieren Sie einen Plan B für den Fall, dass das Framework fällt.
Wenn KI die Interaktion mit Betroffenen steuert oder persönliche Aspekte bewertet – etwa ein Kundenservice-Chatbot, Kundenscoring, Bewerbervorauswahl oder die Auswertung von Gesprächen (Nr. 11 der Muss-Liste der Aufsichtsbehörden). Die reine Formulierungshilfe ohne Steuerung oder Bewertung löst die Pflicht nicht aus.
Nicht allein. Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung dürfen nicht ausschließlich automatisiert getroffen werden (Art. 22 DSGVO); nach dem EuGH-Urteil zu SCHUFA gilt das schon für Scorings, auf die maßgeblich abgestellt wird. Ein Mensch muss tatsächlich prüfen und abweichen können – eine Prüfung, die nie zu einem anderen Ergebnis führt, zählt nicht, wie das 825-Millionen-Bußgeld von 2026 zeigt.
Wenn das KI-Werkzeug objektiv geeignet ist, Verhalten oder Leistung der Beschäftigten zu überwachen – Nutzungsprotokolle, Antwortzeiten, Gesprächsbewertungen –, hat der Betriebsrat nach § 87 Abs. 1 Nr. 6 BetrVG mitzubestimmen. Das trifft auf die meisten vom Arbeitgeber eingeführten KI-Werkzeuge zu. Das Arbeitsgericht Hamburg hat 2024 nur die Nutzung privater Konten ohne Arbeitgeberzugriff als mitbestimmungsfrei angesehen – datenschutzrechtlich ist genau das keine Lösung.
Jede Freischaltung ist eine Entscheidung des Verantwortlichen. Prüfen Sie die Zusatzbedingungen, neue Unterauftragsverarbeiter, Verarbeitungsort und Speicherdauer, ergänzen Sie das Verzeichnis der Verarbeitungstätigkeiten und die Datenschutzerklärung – und beteiligen Sie den Betriebsrat, wenn die Funktion Beschäftigtendaten auswertet.
Nach Art. 15 Abs. 1 lit. h DSGVO und dem EuGH-Urteil vom 27. Februar 2025 (C-203/22) muss er nachvollziehen können, welche seiner Daten zu dem konkreten Ergebnis geführt haben. Eine Formel oder der Hinweis auf das Geschäftsgeheimnis reichen nicht. Im Zweifel legen Sie die Informationen der Aufsichtsbehörde vor, die entscheidet, was der Kunde erhält. Bereiten Sie Ihren Auskunftsprozess darauf vor, bevor Sie Scorings einsetzen.
Das kann eine Verletzung des Schutzes personenbezogener Daten sein. Dokumentieren Sie den Vorfall, bewerten Sie das Risiko für die Betroffenen und melden Sie ihn bei Risiko innerhalb von 72 Stunden der Aufsichtsbehörde (Art. 33 DSGVO); beim Anbieter sollte die Löschung der Eingabe beantragt werden. Ein eingespielter Meldeweg ohne Schuldzuweisung sorgt dafür, dass solche Fälle überhaupt bekannt werden.
Hinweis zu diesem Ratgeber
Dieser Ratgeber ist eine redaktionelle Zusammenstellung allgemeiner Informationen durch Racoon Media. Wir haben die Inhalte nach bestem Wissen recherchiert und mit dem Datum des Rechtsstands versehen; Gesetze, Verordnungen, Leitlinien und Rechtsprechung ändern sich jedoch laufend. Prüfen Sie deshalb vor jeder Entscheidung, ob die genannten Regelungen in Ihrem Fall und zum aktuellen Zeitpunkt noch gelten.
Die Inhalte stellen keine Rechts-, Steuer-, Finanz- oder Anlageberatung und keine sonstige Beratung im Einzelfall dar und ersetzen sie nicht. Sie sind nicht auf Ihre konkrete Situation zugeschnitten und begründen kein Beratungs- oder Auskunftsverhältnis. Angaben zu Förderprogrammen, Fristen, Schwellen- und Grenzwerten geben wir ohne Gewähr wieder; maßgeblich sind allein die jeweils geltenden Gesetzestexte und die Richtlinien der zuständigen Stellen. Für die Prüfung und Umsetzung in Ihrem Unternehmen wenden Sie sich bitte an eine Rechtsanwältin oder einen Rechtsanwalt, Ihre Steuerberatung oder – bei Finanzierungs- und Anlagefragen – an eine dafür zugelassene Beraterin oder einen zugelassenen Berater. Eine Haftung für Entscheidungen, die allein auf Grundlage dieses Ratgebers getroffen werden, übernehmen wir nicht; die Verantwortung für das Geschriebene bleibt bei uns, die Verantwortung für die Anwendung bei Ihnen.
Hinweise auf Fehler oder Änderungen nehmen wir gern entgegen: anfrage@racoonmedia.de
Über die Autoren: Tobias Schott und Amelie Schott
Tobias Schott berät mittelständische Unternehmen bei Organisation, Vertrieb und der Einführung von KI und führt neben Racoon Media die Eventwerk Rodgau GmbH und die Omega Mounting GmbH. Amelie Schott verantwortet Design, Social Media, Content und Kundenprojekte und führt mit ihm die Eventwerk Rodgau GmbH. Die Ratgeber von Racoon Media entstehen aus der Praxis dieser Firmengruppe.
Fachlich verantwortlich für diesen Ratgeber: Tobias Schott · Rechtsstand Oktober 2026 · Keine Rechts-, Steuer- oder Finanzberatung im Einzelfall.