KI und DSGVO im Mittelstand: Datenschutz-Praxis ohne Rechtsabteilung

Der Datenschutz-Mythos: Warum die meisten KI-Projekte zu spät starten

In drei von vier Erstgesprächen höre ich: „Wir würden ja gern mit KI anfangen, aber Datenschutz…" Dann liegt ein Stapel ungeklärter Fragen auf dem Tisch, oft zusammengetragen vom DSB oder der IT-Leitung, manchmal auch nur diffuse Sorge. Das Ergebnis: Das KI-Pilotprojekt startet sechs Monate später als nötig – oder gar nicht.

Die Wahrheit: 90 % der datenschutzrechtlichen Anforderungen an KI im Mittelstand lassen sich mit drei Dokumenten und zwei Prozessen abdecken. Der Rest ist entweder schon durch Ihre bestehende DSGVO-Compliance gelöst oder betrifft Hochrisiko-Anwendungen, die Sie ohnehin erst in Phase 3 anfassen.

Der Knackpunkt liegt woanders: Die meisten Unternehmen verwechseln „datenschutzkonform arbeiten" mit „juristisch wasserdichte Dokumentation für den Ernstfall". Ersteres ist Pflicht und machbar. Letzteres ist teuer, bindet Ressourcen und hilft im Tagesgeschäft wenig.

Datenschutz blockiert KI-Projekte nicht – unklare Verantwortung und fehlende Standardprozesse tun es.

AVV, TOM, DSFA: Die drei Dokumente, die Sie wirklich brauchen

Auftragsverarbeitungsvertrag (AVV) für externe KI-Dienste

Sobald Sie einen Cloud-KI-Dienst nutzen – ChatGPT, Copilot, Claude, Gemini –, verarbeitet der Anbieter personenbezogene Daten in Ihrem Auftrag. Ohne AVV verstoßen Sie gegen Art. 28 DSGVO. Punkt.

In der Praxis:

• Microsoft 365 / Copilot: AVV ist im Online Services DPA enthalten, muss aktiviert werden (Tenant-Admin, Compliance-Center).
• OpenAI ChatGPT Team/Enterprise: DPA im Account-Backend unter „Data Controls" abrufbar, muss unterschrieben hochgeladen werden.
• Anthropic Claude / Google Gemini: Ähnlich, meist Self-Service.
• Lokale/EU-Hosting-Anbieter: AVV individuell verhandeln, oft einfacher.

Was muss drinstehen? DSGVO Art. 28 Abs. 3 listet neun Punkte; die wichtigsten:

• Weisungsrecht: Sie bestimmen, was der Anbieter mit den Daten tun darf.
• Vertraulichkeit: Mitarbeiter des Anbieters sind verpflichtet.
• TOM-Nachweis: Der Anbieter dokumentiert technisch-organisatorische Maßnahmen (Verschlüsselung, Zugriffskontrollen).
• Subunternehmer-Regelung: Liste der Rechenzentren / Sub-Prozessoren (oft als Anhang).
• Unterstützung bei Betroffenenrechten: Der Anbieter hilft Ihnen, Auskunfts-/Löschanträge umzusetzen.

Typischer Fehler: AVV wird unterschrieben, aber in der IT-Schublade vergessen. Ihr DSB sollte eine Übersicht führen: Welcher KI-Dienst, welcher AVV, welche Laufzeit.

Technisch-organisatorische Maßnahmen (TOM)

Sie müssen dokumentieren, wie Sie personenbezogene Daten in der KI-Nutzung schützen. Das ist oft einfacher als gedacht:

• Zugriffskontrolle: Wer darf das KI-Tool nutzen? (z. B. nur Vertrieb, nur mit SSO/MFA)
• Datensparsamkeit: Werden unnötige Felder geschwärzt, bevor Daten ins Tool fließen?
• Verschlüsselung: Übertragung per HTTPS, Speicherung verschlüsselt (bei seriösen Anbietern Standard).
• Protokollierung: Wer hat wann welche Abfrage gestellt? (Bei Microsoft 365 Purview Audit Log, bei anderen Tools oft eingebautes Activity Log)
• Schulung: Nutzer wissen, dass Personendaten nicht in öffentliche Prompts gehören.

Ein zweiseitiges Word-Dokument pro KI-Tool reicht. Wichtig: Aktualisieren, wenn sich etwas ändert (neuer Anbieter, neue Nutzergruppe).

Datenschutz-Folgenabschätzung (DSFA): Wann Pflicht, wann Overkill

Art. 35 DSGVO verlangt eine DSFA, wenn die Verarbeitung „voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat". Klingt schwammig, ist es auch.

DSFA ist Pflicht, wenn Sie:

• Profiling oder automatisierte Entscheidungen mit Rechtswirkung betreiben (z. B. KI entscheidet über Kreditvergabe, Vertragsabschluss, Stellenbesetzung ohne menschliche Prüfung).
• Sensible Daten in großem Umfang verarbeiten (Gesundheit, biometrische Merkmale, Gewerkschaftszugehörigkeit – im produzierenden Mittelstand selten).
• Überwachung öffentlich zugänglicher Bereiche durchführen (Videokameras mit KI-Analyse).

DSFA ist NICHT nötig, wenn Sie:

• ChatGPT im Unternehmen für interne Textarbeit nutzen (E-Mails, Protokolle, Konzepte) und Personendaten vorab pseudonymisieren.
• Einen internen RAG-Chatbot auf Maschinendokumentation betreiben, der nur technische Daten verarbeitet.
• Microsoft Copilot im Mittelstand für M365-Dokumente einsetzen, bei dem Nutzer selbst entscheiden, was sie teilen.

Im Zweifel: Einfache Risikoanalyse (eine Seite) reicht, um zu begründen, warum keine volle DSFA nötig ist. Dokumentieren Sie: Welche Daten, welches Risiko, welche Schutzmaßnahme.

Betroffenenrechte: Auskunft, Löschung, Widerspruch bei KI-Systemen

Ein Mitarbeiter stellt einen Auskunftsantrag nach Art. 15 DSGVO: „Welche meiner Daten hat die Firma in KI-Systemen verarbeitet?" Können Sie antworten?

In der Praxis entstehen zwei Probleme:

1. Unklare Datenflüsse: Wenn Vertrieb ChatGPT nutzt, Service-Techniker Claude und Einkauf Copilot, wissen Sie nicht, wo welche Personendaten liegen.
2. Keine Löschfunktion: Die meisten Cloud-KI-Dienste bieten zwar API-Zugriff auf Conversation History, aber kein „Alle Daten von Person X löschen"-Button.

Lösung:

• Datenfluss-Inventar: Führen Sie eine einfache Tabelle: Abteilung, KI-Tool, Datenarten (Namen? E-Mails? Verträge?), Speicherort. Aktualisieren Sie bei jedem neuen Tool.
• Pseudonymisierung as Default: Schulen Sie Nutzer, Personendaten vor dem Prompt zu ersetzen ("Kunde Meyer" → "Kunde A").
• Vertragliche Unterstützung: Im AVV sollte stehen, dass der Anbieter Sie bei Löschanträgen unterstützt (meist per Support-Ticket).
• Eigene RAG-Systeme: Wenn Sie intern KI für Maschinenwissen und Service-Tickets aufbauen, legen Sie von Anfang an eine User-ID-Spalte in der Vektordatenbank an – dann können Sie gezielt löschen.

Realistisch: Ein Auskunftsantrag alle zwei Jahre, Löschanträge noch seltener. Aber wenn er kommt, sollten Sie in 48 Stunden antworten können.

Betroffenenrechte scheitern nicht an der KI-Technik, sondern an fehlender Dokumentation, wer welches Tool für was nutzt.

Cloud vs. On-Premise: Datenschutz-Unterschiede, die wirklich zählen

Viele GFs fragen: „Müssen wir KI selbst hosten, um DSGVO-sicher zu sein?" Kurze Antwort: Nein. Lange Antwort:

Cloud-KI (ChatGPT, Copilot, Claude) ist datenschutzkonform, wenn:

• AVV vorhanden und Datenverarbeitung in EU/EWR oder mit Standardvertragsklauseln (Art. 46 DSGVO).
• Anbieter transparent dokumentiert, wo Daten liegen (z. B. Microsoft Azure EU-Rechenzentren).
• Sie "Opt-out Training" aktivieren (bei OpenAI, Anthropic Standard in Business-Plänen).

Vorteil Cloud: Keine eigene Infrastruktur, Updates automatisch, Compliance-Zertifikate (ISO 27001, SOC 2) vom Anbieter.

Nachteil Cloud: Kein Einfluss auf Sub-Prozessoren, theoretisches Drittlandrisiko (auch wenn EuGH-Urteil Schrems II seit 2020 praktisch abgearbeitet ist).

On-Premise / EU-Cloud (Aleph Alpha, eigenes Llama-Deployment) macht Sinn, wenn:

• Sie hochsensible Daten verarbeiten (Patente, Vertragsverhandlungen, Gesundheitsdaten).
• Betriebsrat / DSB auf "Daten bleiben im Haus" besteht.
• Sie ohnehin ein starkes IT-Team haben und KI ohne eigenes Team keine Option ist.

Vorteil On-Premise: Volle Kontrolle, keine externen AVVs, klare Datenhoheit.

Nachteil On-Premise: Hoher Aufwand (Server, Updates, Security Patches), oft schlechtere Modellqualität (es sei denn, Sie trainieren selbst).

Pragmatische Empfehlung: Starten Sie mit Cloud-KI für unkritische Use Cases (E-Mail und Meeting-Aufwand senken, Dokumentensuche). Für sensible Prozesse (Angebotskalkulation mit Kundendaten) prüfen Sie EU-Cloud oder verschlüsselte RAG-Lösungen.

Schatten-KI und KI-Inventur: Das unterschätzte Compliance-Risiko

Das größte DSGVO-Problem in den nächsten zwei Jahren heißt nicht ChatGPT – es heißt Schatten-KI: Mitarbeiter nutzen KI-Tools ohne Wissen der IT oder des DSB.

Typisches Szenario:

• Vertriebsleiter lädt privates ChatGPT Plus-Abo, kopiert Kundennamen und Umsatzzahlen in Prompts.
• Marketingassistentin nutzt Copy.ai für Pressetexte, lädt Mitarbeiterliste für Personalisierung hoch.
• Techniker installiert KI-App auf dem Smartphone, scannt Maschinenschilder mit personenbezogenen Wartungsnotizen.

Rechtsfolge: Sie als Unternehmen haften für Verstöße – auch wenn Sie nichts davon wussten (Art. 82 DSGVO, Schadensersatz; Art. 83, Bußgeld bis 4 % Jahresumsatz).

Gegenmaßnahme: KI-Inventur + Policy

1. Jährliche Bestandsaufnahme: IT-Leitung fragt Abteilungen ab: Welche KI-Tools im Einsatz? (E-Mail, kurzes Formular, 30 Minuten)
2. Genehmigte Tool-Liste: DSB prüft, gibt frei, dokumentiert AVV. Nur diese Tools dürfen genutzt werden.
3. Klare Policy: Schriftliche Regelung (eine Seite): „KI-Tools nur nach IT-Freigabe, keine Kundendaten in öffentliche Prompts, bei Verstößen arbeitsrechtliche Konsequenzen."
4. Technische Sperre (optional): Web-Filter blockiert bekannte KI-Domains (ChatGPT, Claude), außer für freigegebene Nutzergruppen.

Sie müssen nicht jede Nuance kontrollieren – aber Sie müssen nachweisen können, dass Sie Maßnahmen getroffen haben. Das genügt der Aufsichtsbehörde.

Praxis-Checkliste: DSGVO-konforme KI in 4 Wochen

Wenn Sie heute starten, sind Sie in einem Monat compliant:

Woche 1: Bestandsaufnahme

• Welche KI-Tools nutzen wir bereits? (IT + DSB fragen Abteilungen ab)
• Welche Datenarten fließen hinein? (Personenbezogen ja/nein, sensibel ja/nein)

Woche 2: AVVs + TOM

• Für jeden Cloud-Dienst: AVV prüfen/abschließen (siehe Anbieter-Portal).
• TOM-Dokument je Tool: Zugriff, Verschlüsselung, Schulung (Vorlage vom DSB).

Woche 3: Risikoanalyse + DSFA-Prüfung

• Einfache Risikoanalyse: Hohes Risiko ja/nein? (Meistens nein)
• Falls ja: DSFA (Vorlage der Aufsichtsbehörde nutzen, 2-3 Seiten).

Woche 4: Policy + Schulung

• KI-Nutzungsrichtlinie (eine Seite, von GF unterschrieben).
• 30-Minuten-Schulung: Was darf rein, was nicht, wie pseudonymisieren.

Danach: Quartalsweise Update der Tool-Liste, jährliche Schulung. Fertig.

Was der EU AI Act zusätzlich verlangt – und was nicht

Seit Februar 2025 gilt der EU AI Act. Viele denken: „Noch mehr Bürokratie!" Tatsächlich: Für die meisten Mittelstands-KI-Anwendungen ändert sich wenig.

Der AI Act kategorisiert Systeme nach Risiko:

• Unzulässig: Social Scoring, biometrische Echtzeit-Überwachung (betrifft Sie nicht).
• Hochrisiko: KI in kritischer Infrastruktur, Medizinprodukten, Bewerbermanagement mit automatischer Vorauswahl (hier brauchen Sie Konformitätsbewertung, Risikomanagementsystem, CE-Kennzeichnung – meist nur für Softwarehersteller, nicht Anwender).
• Begrenzte Transparenzpflicht: Chatbots müssen als solche erkennbar sein ("Dieser Text wurde von KI erstellt").
• Minimales Risiko: Rest, keine Extraauflagen.

Ihre Pflichten als Mittelstand:

• Wenn Sie ein Hochrisiko-System kaufen (z. B. KI für Bewerberscreening), muss der Hersteller CE-Kennzeichnung liefern; Sie prüfen, ob vorhanden.
• Wenn Sie selbst ein Hochrisiko-System entwickeln (selten), brauchen Sie Konformitätsdokumentation.
• Wenn Sie einen Chatbot extern einsetzen (Website), müssen Sie offenlegen, dass es KI ist.

DSGVO bleibt die schärfere Klinge: Personenbezogene Daten sind nach wie vor das zentrale Thema. Der AI Act ergänzt, aber ersetzt nicht.

Fazit: Datenschutz ist kein KI-Blocker – Unkenntnis schon

Nach 20+ KI-Transformationen im Mittelstand habe ich kein einziges Projekt erlebt, das an DSGVO gescheitert ist. Aber dutzende, die monatelang verzögert wurden, weil keiner wusste, welche drei Dokumente reichen und wer sie ausfüllt.

Datenschutz bei KI ist zu 80 % Prozess, zu 20 % Recht. Sie brauchen keinen Anwalt für jeden Prompt – aber Sie brauchen einen DSB oder externen Datenschutzbeauftragten, der die Vorlagen kennt, und eine IT-Leitung, die Tools inventarisiert.

Wenn Sie das Setup aus Woche 1-4 oben umsetzen, sind Sie sicherer aufgestellt als 70 % der Unternehmen Ihrer Größe – und können KI im Mittelstand endlich ohne schlechtes Gewissen skalieren.

Häufige Fragen