KI-Register nach EU AI Act: Pflichten, Praxis und Schatten-KI im Mittelstand

Warum ein KI-Register jetzt Pflicht wird – und was das konkret bedeutet

Der EU AI Act ist keine ferne Drohkulisse mehr. Die Verordnung tritt stufenweise in Kraft, und ab August 2026 müssen Unternehmen Hochrisiko-KI-Systeme registrieren und dokumentieren. Doch die Praxis zeigt: Viele Mittelständler wissen gar nicht, welche KI-Systeme überhaupt im Einsatz sind.

In über 20 KI-Transformationen habe ich immer wieder dasselbe Muster gesehen: Die IT-Leitung kennt Microsoft Copilot, ChatGPT im Unternehmen und vielleicht ein Predictive-Maintenance-Tool auf den Maschinen. Aber der Vertrieb nutzt seit Monaten ein externes Angebots-Tool mit GPT-Backend, die Personalabteilung screent Bewerbungen mit einer KI-Extension in LinkedIn Recruiter, und die Produktionsplanung hat sich ein Python-Skript mit Machine-Learning-Bibliothek selbst gebastelt.

Das ist Schatten-KI – und sie schafft drei Probleme auf einmal: Compliance-Risiko, Datenschutzlücken und fehlende Governance. Der EU AI Act verpflichtet zur Inventur, aber die eigentliche Herausforderung ist operativ: Wie finden Sie alle Systeme, wie bewerten Sie das Risiko, und wie dokumentieren Sie rechtskonform?

Schatten-KI ist kein theoretisches Problem – sie existiert in fast jedem Mittelständler, den wir begleiten.

Was muss ins KI-Register – und was nicht?

Der EU AI Act unterscheidet vier Risikostufen:

• Unzulässige KI: Verboten (z. B. Social Scoring, Echtzeit-Gesichtserkennung im öffentlichen Raum). Für Mittelstand selten relevant.
• Hochrisiko-KI: Strengste Pflichten – Konformitätsbewertung, CE-Kennzeichnung, Registrierung in EU-Datenbank. Beispiele: KI in Personalbewertung, Kreditwürdigkeitsprüfung, sicherheitskritische Steuerung von Maschinen.
• Begrenzte Transparenzpflicht: z. B. Chatbots (müssen offenlegen, dass es KI ist).
• Minimales Risiko: Keine Pflichten – z. B. Spam-Filter, einfache Empfehlungssysteme.

In der Praxis stolpern Mittelständler über zwei Fallstricke:

1. Sie unterschätzen, was als Hochrisiko gilt. Nutzen Sie KI im Bewerbungsscreening? Hochrisiko. Setzen Sie KI in der Qualitätssicherung ein, die über Freigabe/Sperre entscheidet? Potenziell Hochrisiko. Analysieren Sie Mitarbeiterdaten zur Leistungsbewertung? Hochrisiko.
2. Sie haben keine zentrale Übersicht. Fachabteilungen beschaffen SaaS-Tools selbst, Excel-Makros mit ML-Add-ins laufen unter dem Radar, und externe Dienstleister bringen eigene KI-Komponenten mit.

Das Register muss alle KI-Systeme erfassen – unabhängig von der Risikostufe. Nur so können Sie später nachweisen, dass Sie die Hochrisiko-Systeme korrekt bewertet und dokumentiert haben. In der Praxis bedeutet das: Inventur über alle Abteilungen, nicht nur IT.

Schatten-KI systematisch aufdecken: So gehen wir vor

Eine KI-Inventur im Mittelstand ist kein IT-Projekt – es ist ein Change-Projekt mit klarem Governance-Ziel. Wir nutzen einen dreistufigen Ansatz:

1. Top-down: IT-Systeme scannen

Moderne Tools (z. B. SailPoint, Microsoft Defender for Cloud Apps) können SaaS-Subscriptions, API-Calls und Cloud-Dienste mit KI-Komponenten identifizieren. Das deckt die offizielle Schicht ab: Microsoft Copilot im Mittelstand, Azure OpenAI, AWS SageMaker, externe APIs.

Aber: Diese Tools sehen nur, was über zentrale Identitätssysteme läuft. Schatten-KI mit privaten Accounts oder lokalen Skripten bleibt unsichtbar.

2. Bottom-up: Strukturierte Befragung der Fachabteilungen

Wir führen Workshops mit allen Abteilungen durch – Vertrieb, Einkauf, HR, Produktion, Qualität. Die zentrale Frage: „Welche Tools nutzt ihr, die automatisch Entscheidungen treffen, Texte generieren, Daten analysieren oder Muster erkennen?"

Dabei hilft ein einfacher Fragenkatalog:

• Nutzt ihr externe Tools, die „KI" oder „AI" im Namen tragen?
• Habt ihr Excel-Add-ins, Browser-Extensions oder Plugins installiert?
• Arbeitet ihr mit externen Dienstleistern, die eure Daten analysieren?
• Gibt es selbstgebaute Skripte (Python, R, Power Automate mit AI Builder)?

Wichtig: Keine Angst vor Sanktionen kommunizieren. Mitarbeiter sollen Schatten-KI offenlegen, nicht verstecken. Wir positionieren die Inventur als Risikominimierung für alle, nicht als Kontrolle.

3. Continuous Monitoring: Prozess statt Stichtag

Eine einmalige Inventur reicht nicht. Neue Tools kommen ständig hinzu – besonders in Zeiten, in denen jede SaaS-Plattform KI-Features nachschiebt. Wir empfehlen:

• Procurement-Prozess: Neue Software-Beschaffungen müssen IT/Datenschutz passieren, inkl. KI-Check.
• Quarterly Review: Alle sechs Monate kurzes Update mit Fachabteilungen.
• Technische Überwachung: CASB-Tools (Cloud Access Security Broker) loggen neue Cloud-Dienste.

So wird aus der Inventur ein lebendiges KI-Register, das auch im Audit standhält.

Risikobewertung: Hochrisiko oder nicht? Die Gretchenfrage für Mittelständler

Der EU AI Act definiert Hochrisiko-KI in Anhang III – aber die Abgrenzung ist in der Praxis oft unklar. Zwei Beispiele aus echten Projekten:

Fall 1: Qualitätsprüfung mit Computer Vision

Ein Metallverarbeiter nutzt KI, um Schweißnähte auf Fehler zu scannen. Die KI empfiehlt eine Nacharbeit, aber ein Mitarbeiter entscheidet final. Ist das Hochrisiko?

Unsere Einschätzung: Nein – solange die KI nur unterstützt und ein Mensch die Freigabe erteilt. Aber: Sobald die KI automatisch Chargen sperrt (z. B. nachts ohne menschliche Kontrolle), wird es kritisch. Dann greift die Hochrisiko-Einstufung für sicherheitskritische Komponenten.

Fall 2: Bewerbungsscreening mit KI-Tool

Die HR-Abteilung nutzt ein externes Tool, das Lebensläufe analysiert und eine Rangliste erstellt. Klar Hochrisiko – denn der EU AI Act stuft KI in der Personalauswahl explizit als Hochrisiko ein. Hier ist die Hürde niedriger als viele denken.

Praxistipp: Im Zweifel konservativ bewerten. Eine Hochrisiko-Einstufung bedeutet Mehraufwand (technische Dokumentation, Risikoanalyse, Logging), aber keine Nutzungsuntersagung. Wegducken ist teurer – Bußgelder gehen bis 35 Mio. € oder 7 % des weltweiten Jahresumsatzes.

Bei unklaren Fällen gilt: Lieber dokumentieren als hoffen, dass es nicht auffällt.

Rechtskonforme Dokumentation: AVV, DSGVO und interne Richtlinien

Das KI-Register ist nur die halbe Miete. Für jedes System brauchen Sie ergänzende Dokumentation:

• Auftragsverarbeitungsvertrag (AVV) bei externen KI-Diensten (z. B. OpenAI, Google Vertex AI). Viele SaaS-Anbieter haben Standard-AVVs, aber die sind oft generisch – prüfen Sie, ob Sub-Prozessoren (z. B. Azure in den USA) sauber geregelt sind.
• Datenschutz-Folgenabschätzung (DSFA) bei Hochrisiko-KI mit personenbezogenen Daten. Pflicht nach DSGVO Art. 35.
• Technische Dokumentation nach EU AI Act Anhang IV: Systembeschreibung, Trainingsverfahren, Risikomanagement, Testprotokolle. Das wird im Audit verlangt.
• Interne KI-Richtlinie: Welche Tools sind erlaubt, welche Daten dürfen rein, wer trägt Verantwortung? Ohne Policy bleibt Schatten-KI unkontrollierbar.

In der Praxis scheitern viele Mittelständler an der Schnittstelle zwischen IT, Datenschutz und Fachabteilung. IT kennt die Technik, Datenschutz die Rechtslage, aber die Fachabteilung weiß, was das System tatsächlich tut. Ohne gemeinsame Workshops entsteht Dokumentation, die im Audit nicht standhält.

Wir führen deshalb für jedes Hochrisiko-System einen KI-Steckbrief ein: Eine Seite, auf der Zweck, Datenfluss, Risikobewertung, Verantwortliche und Prüfintervalle stehen. Das ist die Basis für Compliance – und für erfolgreiche KI-Strategie, die skaliert.

KI-Register in der Praxis: Werkzeuge und Aufwand

Viele fragen: „Brauchen wir teure GRC-Software für das KI-Register?" Klare Antwort: Nein – jedenfalls nicht am Anfang.

Für Mittelständler mit unter 20 KI-Systemen reicht eine strukturierte Excel- oder Notion-Tabelle mit folgenden Spalten:

• System-Name, Anbieter, Abteilung, Ansprechpartner
• Zweck, verarbeitete Datenarten
• Risikostufe (minimal / Transparenzpflicht / Hochrisiko)
• AVV vorhanden? DSFA durchgeführt?
• Letzte Prüfung, nächste Review

Ab 50+ Systemen oder mehreren Standorten lohnt sich ein dediziertes Tool (z. B. OneTrust, TrustArc, KIRA by Deloitte). Diese Plattformen bieten automatische Workflows, Audit-Trails und Integration mit ISMS/DSMS.

Aufwand für die Erstinventur:

• Klein (< 150 MA): 2-4 Wochen, 1 Person Teilzeit + externe Moderation
• Mittel (150-500 MA): 4-8 Wochen, kleines Kernteam (IT, Datenschutz, Fachabteilung)
• Kontinuierlicher Aufwand: ~1 Tag/Monat für Updates und Reviews

Das ist investierte Zeit – aber billiger als ein Bußgeld oder ein Produktionsstopp wegen ungeklärter KI-Haftung.

Checkliste: In 6 Schritten zum compliant KI-Register

1. Stakeholder definieren: IT-Leitung, Datenschutzbeauftragter, Geschäftsführung, Fachabteilungen. Ohne GF-Mandat funktioniert die Inventur nicht.
2. Technische Bestandsaufnahme: SaaS-Scanner, API-Logs, Cloud-Inventur. Was läuft offiziell?
3. Strukturierte Befragung: Workshops mit allen Abteilungen. Schatten-KI offenlegen, keine Sanktionen kommunizieren.
4. Risikobewertung je System: EU AI Act Anhang III abgleichen, im Zweifel Datenschutzbeauftragten oder Rechtsberatung einbinden.
5. Dokumentation vervollständigen: AVV, DSFA, technische Dokumentation für Hochrisiko-Systeme. KI-Steckbrief je System.
6. Prozess etablieren: Procurement-Regel, Quarterly Review, CASB-Monitoring. Register leben lassen.

Zusatztipp: Nutzen Sie die Inventur als Chance. Viele Mittelständler entdecken dabei, dass sie doppelte Tools lizenzieren (z. B. drei verschiedene KI-Übersetzungstools in drei Abteilungen) oder dass KI-Pilotprojekte nicht skaliert wurden, obwohl sie Potenzial hätten. Das KI-Register wird so zur Grundlage für Konsolidierung und Strategie.

Fazit: Compliance als Grundlage für erfolgreiche KI-Nutzung

Der EU AI Act zwingt Mittelständler zur Inventur – aber das ist keine lästige Pflicht, sondern eine überfällige Bestandsaufnahme. Ohne KI-Register haben Sie keine Kontrolle über Risiken, Kosten und Skalierungspotenzial.

Aus meiner Erfahrung gilt: Unternehmen, die das Register sauber führen, sind auch diejenigen, die KI im Mittelstand erfolgreich skalieren. Denn sie wissen, was läuft, wer verantwortlich ist und wo die nächsten Use Cases liegen.

Schatten-KI aufzudecken ist kein Vertrauensbruch – es ist Risikomanagement. Und wer jetzt startet, hat bis zur Vollharmonisierung des EU AI Act 2027 Zeit, Prozesse zu etablieren. Wer wartet, dokumentiert unter Zeitdruck – und das endet selten gut.

Häufige Fragen