KI und Datenschutz: So nutzen Unternehmen KI DSGVO-bewusst

KI-Werkzeuge verarbeiten alles, was man ihnen gibt: E-Mails, Angebote, Notizen – und oft auch Daten von Kunden oder Beschäftigten. Damit gilt die DSGVO, und seit 2025 greifen schrittweise auch die Pflichten der europäischen KI-Verordnung (EU AI Act). Dieser Überblick zeigt praxisnah, worauf kleine Betriebe achten sollten; welche Aufgaben sich überhaupt für KI eignen, erklärt der Ratgeber KI im Kleinbetrieb.

Das Wichtigste in Kürze

• Personenbezogene Daten gehören nur in KI-Tarife mit Auftragsverarbeitungsvertrag – und auch dort nur so viel wie nötig.
• Verbraucher-Tarife sind für Kundendaten ungeeignet: Es fehlt der AV-Vertrag, und ob Eingaben ins Training fließen, hängt von der Einstellung jedes einzelnen Kontos ab.
• Übermittlungen in die USA stützen sich auf das EU-US Data Privacy Framework oder auf Standardvertragsklauseln; gegen das Framework ist ein Rechtsmittel beim Europäischen Gerichtshof anhängig (Stand: September 2026).
• Eine kurze schriftliche KI-Richtlinie und eine dokumentierte Einweisung decken die wichtigsten Datenschutz-Regeln und die KI-Kompetenz nach Art. 4 AI Act ab.
• Seit dem 2. August 2026 gelten Transparenzpflichten nach Art. 50 AI Act, etwa für KI-Chatbots und Deepfakes.

Wann gilt die DSGVO beim Einsatz von KI?

Immer dann, wenn personenbezogene Daten verarbeitet werden – also Angaben zu einer bestimmten oder bestimmbaren Person, von Name und E-Mail-Adresse über Kundenhistorien bis zu Arbeitszeiten. Die Datenschutzkonferenz (DSK), das Gremium der deutschen Datenschutzaufsichtsbehörden, weist in ihrer Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ darauf hin, dass es regelmäßig nicht reicht, Namen und Anschriften zu entfernen: Aus dem Zusammenhang lässt sich eine Person oft trotzdem erkennen. Zudem kann eine KI personenbezogene Angaben ausgeben, auch wenn die Eingabe keine enthielt.

Geschäftsdaten ohne Personenbezug fallen nicht unter die DSGVO, verdienen aber Schutz: Nach dem Geschäftsgeheimnisgesetz ist eine Information nur geschützt, wenn Sie angemessene Geheimhaltungsmaßnahmen treffen – klare Regeln für KI-Eingaben können dazugehören.

Welche Daten dürfen in KI-Tools – und welche nicht?

Eine einfache Ampel hilft im Alltag. Sie ersetzt keine Einzelfallprüfung, schafft aber Orientierung:

• Grün – unkritisch: allgemeine Fragen, öffentlich verfügbare Informationen, eigene Texte ohne Personenbezug, Produktbeschreibungen, anonymisierte Beispiele.
• Gelb – nur im Business-Tarif mit AV-Vertrag und nach Ihren Regeln: Kundenanfragen, E-Mail-Verläufe, Angebote mit Kontaktdaten, interne Dokumente mit Namen.
• Rot – nicht eingeben oder nur nach gesonderter Prüfung: Gesundheitsdaten und andere besondere Kategorien nach Art. 9 DSGVO wie religiöse Überzeugungen, Gewerkschaftszugehörigkeit oder biometrische Daten, außerdem Bewerbungen und Personalakten, Passwörter und Zugangsdaten, Bank- und Zahlungsdaten sowie vertrauliche Verträge.

Berufsgeheimnisträger wie Ärztinnen, Anwälte oder Steuerberater unterliegen zusätzlich strafbewehrten Verschwiegenheitspflichten (§ 203 StGB). Klären Sie den KI-Einsatz dort vorab mit Kammer, Datenschutzbeauftragtem oder Fachanwalt.

Welcher Tarif ist der richtige: Verbraucher- oder Business-Tarif?

Die wichtigste Datenschutz-Entscheidung fällt bei der Tarifwahl, wie das Beispiel Claude von Anthropic zeigt (Stand: September 2026):

• Verbraucher-Tarife (Free, Pro, Max): Anthropic verarbeitet die Daten als eigener Verantwortlicher, einen AV-Vertrag gibt es nicht. Ob Chats zum Training genutzt werden, entscheidet jedes Konto selbst. Die Verbraucher-Bedingungen für den Europäischen Wirtschaftsraum schließen eine geschäftliche Nutzung zudem ausdrücklich aus.
• Business-Tarife (Team, Enterprise, Schnittstelle): Es gelten die kommerziellen Bedingungen, in die der Auftragsverarbeitungsvertrag (Data Processing Addendum) mit Standardvertragsklauseln automatisch einbezogen ist. Ein- und Ausgaben werden standardmäßig nicht zum Training genutzt; Ausnahme sind Chats, zu denen jemand aktiv Feedback gibt.

Nach der DSK-Orientierungshilfe ist ein Cloud-KI-Anbieter, den Sie für eigene Zwecke einsetzen, häufig Auftragsverarbeiter; dann ist ein Vertrag nach Art. 28 Abs. 3 DSGVO nötig. Was ein solcher Vertrag regeln muss, erklärt Datenschutz in der Praxis: AV-Vertrag, Newsletter & Co.; wie Sie den Team-Tarif aufsetzen, zeigt Claude im Unternehmen einrichten. Prüfen Sie bei jedem KI-Anbieter mindestens:

1. Gibt es einen AV-Vertrag, und gilt er für genau den Tarif, den Sie nutzen?
2. Werden Eingaben zum Training verwendet, und lässt sich das abschalten?
3. Wie lange werden Daten gespeichert, und wie werden sie gelöscht?
4. Wo werden Daten verarbeitet, auf welcher Grundlage erfolgen Übermittlungen in Drittländer, und welche Unterauftragsverarbeiter sind beteiligt?
5. Welche Verwaltungsfunktionen gibt es für Nutzer, Rechte und Anbindungen?

Trainings-Einstellungen: Was passiert mit Ihren Eingaben?

Die DSK hält Anwendungen, die Eingaben nicht zum Training verwenden, für datenschutzrechtlich vorzugswürdig; wo personenbezogene Daten ins Training fließen, braucht es dafür eine eigene Rechtsgrundlage. Stellen Sie Firmenkonten deshalb schon bei der Einrichtung datenschutzfreundlich ein.

Bei den Verbraucher-Tarifen von Claude legt seit Herbst 2025 jede Person in den Datenschutz-Einstellungen fest, ob ihre Chats zur Verbesserung der Modelle genutzt werden dürfen. Ist das erlaubt, können die Daten in de-identifizierter Form bis zu fünf Jahre in den Trainingsabläufen verbleiben; Inkognito-Chats sind ausgenommen. Bei den Business-Tarifen gibt es standardmäßig kein Training – außer bei Chats, die jemand per Daumen-Symbol bewertet: Diese darf Anthropic bis zu fünf Jahre speichern und für das Training nutzen. Im Team-Tarif können Owner die Bewertungsfunktion abschalten.

Drittlandtransfer: Was gilt bei US-Anbietern?

Viele verbreitete KI-Assistenten stammen von US-Unternehmen. Anthropic speichert die Daten nach eigenen Angaben in den USA; eine Verarbeitung in Europa ist über Cloud-Plattformen wie AWS Bedrock, Google Vertex AI oder Microsoft Foundry möglich, also bei Anbindung per Schnittstelle, nicht in der normalen Claude-App. Für Übermittlungen in die USA gibt es zwei gängige Grundlagen:

• EU-US Data Privacy Framework (DPF): Angemessenheitsbeschluss der EU-Kommission vom 10. Juli 2023, der Übermittlungen an nach dem DPF zertifizierte US-Unternehmen erlaubt. Das Gericht der EU hat eine Klage dagegen am 3. September 2025 abgewiesen; das Rechtsmittel beim Europäischen Gerichtshof (Rechtssache C-703/25 P) ist nach unserer Recherche noch nicht entschieden (Stand: September 2026).
• Standardvertragsklauseln (SCC): von der EU-Kommission genehmigte Vertragsklauseln; Anthropic hat sie in seinen Auftragsverarbeitungsvertrag aufgenommen.

Dokumentieren Sie deshalb, auf welcher Grundlage Daten übermittelt werden, prüfen Sie bei Bedarf in der offiziellen DPF-Liste des US-Handelsministeriums, ob ein Anbieter zertifiziert ist, und verfolgen Sie die Rechtsprechung. Kippt der EuGH den Beschluss, wie 2020 den Vorgänger Privacy Shield, müssten Übermittlungen neu bewertet werden.

Kundendaten schützen: pseudonymisieren, anonymisieren, weglassen

Anonymisierte Daten lassen keinen Rückschluss auf eine Person mehr zu; dann gilt die DSGVO nicht. Pseudonymisierte Daten, etwa „Kunde A“ statt des Namens, bleiben für Sie als Unternehmen, das die Zuordnung kennt, personenbezogen, senken aber das Risiko. Am sichersten ist, was gar nicht erst eingegeben wird:

1. Ersetzen Sie Namen, Adressen, Telefon- und Kundennummern durch Platzhalter.
2. Verallgemeinern Sie Details, die eine Person verraten können: genaue Daten, Orte, Beträge, seltene Berufe oder Ereignisse.
3. Geben Sie nur den Ausschnitt ein, den die Aufgabe braucht, nicht den ganzen E-Mail-Verlauf oder die komplette Kundenliste.
4. Setzen Sie echte Daten erst nach der Bearbeitung wieder ein, außerhalb des KI-Werkzeugs.
5. Prüfen Sie Ergebnisse auf personenbezogene Angaben, bevor Sie sie weiterverwenden.
6. Löschen Sie Chats mit personenbezogenen Daten, sobald sie nicht mehr gebraucht werden.

Wie schnell Personenbezug entsteht, zeigt ein Beispiel der DSK: Schon die Bitte, ein Arbeitszeugnis für einen Kundenberater eines bestimmten Autohauses zu entwerfen, kann personenbezogen sein, wenn erkennbar ist, aus welchem Unternehmen und wann die Anfrage kam. Datensparsamkeit gilt ebenso für Auswertungen wie ein Dashboard mit Kennzahlen.

Checkliste: Was gehört in eine interne KI-Richtlinie?

Die DSK empfiehlt klare, dokumentierte Weisungen, ob, wofür und unter welchen Voraussetzungen KI genutzt werden darf, am besten mit Beispielen für erlaubte und untersagte Einsätze. Ein kurzes Dokument sollte regeln:

1. Zugelassene Werkzeuge: welche Dienste und Tarife erlaubt sind; nur Firmenkonten, keine privaten Konten und Geräte.
2. Zwecke: wofür KI genutzt werden darf und wofür nicht, jeweils mit Beispielen.
3. Datenregeln: die Ampel von oben, angepasst an Ihren Betrieb.
4. Prüfpflicht: Ergebnisse vor der Verwendung prüfen; Texte an Kunden erst nach Freigabe versenden.
5. Keine automatisierten Entscheidungen über Menschen: Die DSK nennt als Verstoß gegen Art. 22 DSGVO etwa eine KI, die Bewerbungen auswertet und selbstständig Einladungen verschickt. Systeme zur Bewerberauswahl gelten nach der KI-Verordnung zudem als Hochrisiko-KI, mit Pflichten ab dem 2. Dezember 2027.
6. Einstellungen: Training aus, Feedback-Funktion geregelt, Anbindungen nur mit den nötigen Rechten.
7. Zuständigkeiten: wer die Konten verwaltet und wann der Datenschutzbeauftragte und, falls vorhanden, der Betriebsrat einbezogen werden.
8. Kennzeichnung: wann KI-Inhalte gekennzeichnet werden müssen (siehe Art. 50 unten).
9. Einweisung und Dokumentation: wer wann eingewiesen wurde, als Nachweis für die KI-Kompetenz.
10. Vorfälle: was zu tun ist, wenn versehentlich sensible Daten eingegeben wurden, und wer prüft, ob eine Meldung an die Aufsichtsbehörde nötig ist – nach Art. 33 DSGVO unverzüglich, möglichst binnen 72 Stunden.
11. Überprüfung: die Richtlinie regelmäßig an neue Werkzeuge und Regeln anpassen.

Nehmen Sie den KI-Einsatz außerdem in Ihr Verzeichnis von Verarbeitungstätigkeiten auf und bewerten Sie vorab das Risiko. Nach Einschätzung der DSK wird beim Einsatz von KI-Anwendungen vielfach eine Datenschutz-Folgenabschätzung erforderlich sein.

Was verlangt der EU AI Act von kleinen Unternehmen?

Gilt der AI Act auch für kleine Betriebe?

Ja. Wer ein KI-System beruflich in eigener Verantwortung verwendet, ist nach der KI-Verordnung „Betreiber“; nur die rein private Nutzung ist ausgenommen. Die meisten Pflichten treffen Anbieter und Hochrisiko-Anwendungen, zwei Punkte aber praktisch jeden Betrieb.

KI-Kompetenz nach Art. 4: Was gilt seit Juli 2026?

Art. 4 gilt seit dem 2. Februar 2025. Ursprünglich sollten Anbieter und Betreiber Maßnahmen ergreifen, um „nach besten Kräften sicherzustellen“, dass ihr Personal über ein „ausreichendes Maß“ an KI-Kompetenz verfügt. Die Digital-Omnibus-Verordnung (EU) 2026/1744 vom 8. Juli 2026, in Kraft seit dem 27. Juli 2026, hat Art. 4 neu gefasst:

• Anbieter und Betreiber ergreifen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen, die in ihrem Auftrag mit KI-Systemen arbeiten, zu unterstützen – unter Berücksichtigung von Vorkenntnissen, Erfahrung, Ausbildung und Einsatzkontext.
• Die Pflicht verlangt ausdrücklich nicht, für irgendeine Person ein bestimmtes Kompetenzniveau zu garantieren.
• Kommission und Mitgliedstaaten sollen die Unternehmen, insbesondere kleine und mittlere, dabei unterstützen.

Laut Bundesnetzagentur sind weder garantierte Kompetenzniveaus noch standardisierte Schulungen oder externe Zertifizierungen erforderlich; sie empfiehlt, den Bedarf risikobasiert zu ermitteln und die Maßnahmen zu dokumentieren. Für kleine Betriebe heißt das: kurze Einweisung, schriftliche Regeln, Dokumentation und Auffrischung bei neuen Werkzeugen.

Transparenzpflichten nach Art. 50: Was gilt seit dem 2. August 2026?

Für kleine Betriebe sind vor allem diese Fälle relevant:

• KI-Chatbots: Menschen müssen erkennen können, dass sie mit einer KI kommunizieren, sofern das nicht offensichtlich ist. Die Pflicht trifft den Anbieter des Systems – das kann auch sein, wer einen Chatbot unter eigenem Namen entwickeln lässt und in Betrieb nimmt. Ein klarer Hinweis im Chatfenster ist in jedem Fall sinnvoll.
• Deepfakes: Wer KI-erzeugte oder -veränderte Bilder, Ton- oder Videoaufnahmen veröffentlicht, die echten Personen, Orten oder Ereignissen täuschend ähneln, muss offenlegen, dass sie künstlich erzeugt oder verändert wurden.
• Texte zu Themen von öffentlichem Interesse: KI-erzeugte Texte, die veröffentlicht werden, um die Öffentlichkeit über solche Themen zu informieren, sind zu kennzeichnen – außer, sie wurden von Menschen überprüft oder redaktionell kontrolliert, und jemand trägt die redaktionelle Verantwortung. Nach Auslegung der EU-Kommission reicht dafür eine bloß formale Durchsicht nicht.
• Hersteller generativer KI: Sie müssen Ausgaben maschinenlesbar markieren; für Systeme, die schon vor dem 2. August 2026 auf dem Markt waren, gilt eine Frist bis zum 2. Dezember 2026. Das betrifft nicht Sie als Nutzer.

Werbetexte und Produktbeschreibungen dürften nach dem Wortlaut in der Regel nicht unter die Kennzeichnungspflicht für Texte fallen; verantwortlich für Veröffentlichtes bleiben Sie trotzdem – mehr dazu in KI-generierte Texte für die Webseite. Ein Chatbot auf Ihrer Webseite gehört außerdem in die Datenschutzerklärung, siehe Impressum & Datenschutz.

Wer ist in Deutschland zuständig?

Seit dem 29. Juli 2026 ist nach dem KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) die Bundesnetzagentur zentrale Marktüberwachungsbehörde und Anlaufstelle für die KI-Verordnung; für einzelne Bereiche wie den Finanzsektor sind andere Behörden zuständig. Ihr KI-Service-Desk bietet Unternehmen unter anderem Hinweise zur KI-Kompetenz. Für den Datenschutz bleiben die Datenschutzaufsichtsbehörden zuständig, in Sachsen-Anhalt der Landesbeauftragte für den Datenschutz, der auf seiner Webseite ein Infopaket Künstliche Intelligenz bereitstellt. Weitere DSK-Papiere behandeln technische und organisatorische Maßnahmen bei KI-Systemen (Juni 2025) und KI mit RAG-Methode (Oktober 2025).

Typische Fehler beim Datenschutz mit KI

• Schatten-KI: Mitarbeitende nutzen private Konten, weil es keine erlaubte Alternative gibt. Besser ist ein freigegebenes Firmenwerkzeug mit klaren Regeln.
• Verbraucher-Tarif für Kundendaten: ohne AV-Vertrag und mit Trainingsnutzung je nach Einstellung.
• AV-Vertrag nicht dokumentiert: Auch wenn er automatisch Teil der Bedingungen ist, gehört eine Kopie in Ihre Unterlagen.
• Chatbot ohne Hinweis: Besucher müssen erkennen, dass sie mit einer KI schreiben, und die Datenschutzerklärung muss den Dienst nennen.
• Einmal geregelt, nie überprüft: Tarife, Funktionen und Rechtslage ändern sich laufend.

Fazit

KI lässt sich im Unternehmen datenschutzbewusst nutzen, wenn die Grundlagen stimmen: ein Business-Tarif mit AV-Vertrag, datenschutzfreundliche Einstellungen, sparsame Eingaben und klare Regeln fürs Team. Der EU AI Act verlangt von kleinen Betrieben vor allem Maßnahmen zur KI-Kompetenz und Transparenz bei Chatbots und Deepfakes; beides lässt sich mit Einweisung, schriftlichen Regeln und klaren Hinweisen umsetzen. Wie das in der Praxis aussieht, zeigt der Abschnitt Datenschutz auf der Seite KI & Automatisierung.

---

Dieser Beitrag ist ein allgemeiner Überblick und ersetzt keine Rechtsberatung.