KI-Sherpa® Wissen KI-Potentialgespräch
Daten & Praxis

KI-Datenqualität im Mittelstand: Warum 70 % der Projekte an schlechten Daten scheitern

"Garbage in, garbage out" war noch nie so teuer wie bei KI. Aus über 20 Transformationen im produzierenden Mittelstand weiß ich: Nicht die Algorithmen scheitern – sondern fehlende, falsche oder inkonsistente Daten. Dieser Artikel zeigt sieben typische Stolpersteine und wie Sie Ihre Datenqualität pragmatisch für KI-Projekte fit machen.

Von Daniel Blümlein · ~8 Min Lesezeit · Aktualisiert Juli 2026

Warum Datenqualität der blinde Fleck in KI-Projekten ist

📄
Gratis-Download
Checkliste: Wo sich KI bei Ihnen zuerst rechnet
8-Punkte-Selbstcheck — finden Sie in 15 Minuten Ihren ersten KI-Hebel. Kostenlos als PDF.
Checkliste sichern →

In den meisten Mittelstandsbetrieben läuft die KI-Diskussion so: Man identifiziert einen Use Case, sucht sich ein Tool oder einen Dienstleister, startet ein KI-Pilotprojekt – und stellt nach Wochen fest, dass die Daten nicht passen. Fehlende Felder im ERP, Freitext statt Stammdaten, unterschiedliche Formate in verschiedenen Systemen. Das Projekt verzögert sich, der Frust steigt, das Budget läuft.

Die harte Wahrheit: Rund 70 % der KI-Initiativen scheitern nicht an der Technologie, sondern an mangelhafter Datenqualität. Das bestätigen Studien von Gartner und IDC – und ich sehe es in der Praxis bei produzierenden Unternehmen zwischen 50 und 500 Mitarbeitern immer wieder.

Dabei ist das Problem kein technisches: Es ist ein organisatorisches. Daten sind über Jahrzehnte gewachsen, niemand hat sie für maschinelles Lernen oder Sprachmodelle konzipiert. Und niemand fühlt sich wirklich verantwortlich – bis die KI-Initiative auf den Tisch kommt.

Nicht die KI ist das Problem – sondern die Daten, die wir ihr füttern.

Fehler 1: "Wir haben doch alles im ERP"

Das höre ich in fast jedem Erstgespräch. Ja, die Daten liegen im ERP – aber in welcher Form? Häufig sehe ich:

Was das für KI bedeutet: Ein Modell zur automatischen Angebotserstellung braucht saubere Produktdaten. Ein RAG-System für technische Dokumentation muss wissen, welche Maschine zu welchem Auftrag gehört. Fehlt die Struktur, lernt die KI Müll – oder liefert Halluzinationen.

Pragmatischer Fix: Starten Sie nicht mit "Wir räumen jetzt das ganze ERP auf". Das dauert Jahre. Identifizieren Sie die 10–20 % Datenfelder, die für Ihren konkreten Use Case kritisch sind – und bereinigen Sie nur diese. Oft reicht eine einmalige Bereinigung durch einen Werkstudenten plus klare Prozessregel für neue Datensätze.

Fehler 2: Keine Datendokumentation – und keiner weiß, was wo liegt

In vielen Betrieben gibt es keine zentrale Übersicht, welche Systeme welche Daten halten. ERP, MES, CRM, Excel-Listen auf Netzlaufwerken, Access-Datenbanken aus den 90ern. Wenn ein externer KI-Partner fragt "Wo liegen Ihre Maschinendaten?", dauert die Antwort Wochen – weil drei Abteilungen involviert sind und jede ein anderes System nutzt.

Was das für KI bedeutet: Keine Trainings-Daten, keine Testdaten, kein ROI-Nachweis. Das Projekt hängt, bevor es richtig losgeht.

Pragmatischer Fix: Erstellen Sie ein einfaches Data Inventory – eine Excel- oder Notion-Tabelle mit:

Das kostet einen halben Tag – und rettet Ihnen Wochen Projektzeit.

Fehler 3: Inkonsistente Formate und Daten-Silos

Abteilung A pflegt Kundendaten im CRM, Abteilung B im ERP, Abteilung C in einer Excel-Liste. Dieselbe Firma heißt einmal "Müller GmbH", einmal "Müller GmbH & Co. KG", einmal "Fa. Müller". Für Menschen kein Problem – für eine KI sind das drei verschiedene Kunden.

Oder: Die Produktion schreibt Maschinentypen mit Leerzeichen ("CNC 5000"), die Wartung ohne ("CNC5000"). Ein automatisiertes System zur Sicherung von Maschinenwissen kann die Daten nicht zusammenführen – und liefert Schrott.

Pragmatischer Fix:

Fehler 4: "Die Daten sind vertraulich – wir können nichts rausgeben"

Berechtigte Sorge – aber oft ein Totschlagargument, das KI-Projekte im Mittelstand unnötig verzögert. Natürlich dürfen Kundendaten nicht in eine Public Cloud. Aber: Muss der externe KI-Partner wirklich Klarnamen sehen? Oder reicht eine anonymisierte Stichprobe?

Pragmatischer Fix:

Übrigens: Wenn Sie Prozessautomatisierung mit KI intern umsetzen (z. B. per Power Automate), bleibt alles in Ihrer Tenant – dann ist Vertraulichkeit meist kein Hindernis.

Fehler 5: Keine Feedback-Schleife – und die Qualität verschlechtert sich

Selbst wenn Sie einmal saubere Daten haben: Ohne kontinuierliche Pflege sinkt die Qualität rapide. Neue Mitarbeiter kennen die Regeln nicht, alte Gewohnheiten setzen sich durch, Freitext schleicht sich wieder ein.

Was das für KI bedeutet: Ein Modell, das heute gut funktioniert, liefert in sechs Monaten schlechte Ergebnisse – weil die Trainingsdaten veraltet oder inkonsistent geworden sind.

Pragmatischer Fix:

Fehler 6: Trainingsdaten ohne Kontext – die KI lernt das Falsche

Ich sehe immer wieder: Ein Unternehmen exportiert alle Auftragsdaten der letzten fünf Jahre und füttert damit ein Modell zur Nachfrageprognose. Problem: In den Daten sind Corona-Jahre, ein Großauftrag, der nie wiederkam, und ein Produktionsausfall, der die Zahlen verzerrt. Die KI lernt Muster, die nicht repräsentativ sind – und prognostiziert Unsinn.

Pragmatischer Fix:

KI ist nur so intelligent wie die Daten, mit denen wir sie füttern – und die Fragen, die wir stellen.

Fehler 7: Datenqualität als IT-Thema abschieben

Das sehe ich besonders oft: Die Geschäftsführung beschließt eine KI-Strategie, die IT soll "die Daten vorbereiten" – aber die Fachabteilungen spielen nicht mit. Vertrieb kennt die Kunden, Produktion die Maschinen, Einkauf die Lieferanten. Die IT kennt nur die Tabellen im ERP.

Pragmatischer Fix:

Datenqualität ist kein Sprint – aber auch kein Marathon

Keine Frage: Perfekte Daten werden Sie nie haben. Aber Sie brauchen sie auch nicht. Für die meisten KI-Projekte im Mittelstand reichen ausreichend gute, strukturierte Daten für den konkreten Use Case.

Meine Empfehlung: Starten Sie nicht mit einem unternehmensweiten Data-Governance-Projekt. Das endet in Analyse-Paralyse. Starten Sie mit einem konkreten Problem – automatisierte Angebotserstellung, vorausschauende Wartung, Wissensmanagement. Identifizieren Sie die 10–20 % Daten, die dafür kritisch sind. Bereinigen Sie diese. Messen Sie den Erfolg. Und dann skalieren Sie.

Wenn Sie dabei Unterstützung brauchen – oder wissen wollen, wie Sie Ihre Datenqualität pragmatisch für KI fit machen – sprechen Sie mich an. Ich sehe in der Regel nach 2–3 Stunden Workshop, wo die größten Hebel liegen.

Häufige Fragen

Wie erkenne ich, ob meine Datenqualität für KI ausreicht?

Stellen Sie sich drei Fragen: (1) Sind die Daten strukturiert oder Freitext? (2) Sind Pflichtfelder vollständig ausgefüllt? (3) Gibt es Dubletten oder Inkonsistenzen? Wenn zwei von drei mit 'ja' beantwortet sind, ist oft ein Quick-Win möglich.

Muss ich erst alle Daten bereinigen, bevor ich mit KI starten kann?

Nein. Bereinigen Sie nur die Daten, die für Ihren konkreten Use Case kritisch sind – oft 10–20 % des Gesamtbestands. Der Rest kann später folgen.

Wie viel Zeit kostet Datenbereinigung in der Praxis?

Für einen typischen Mittelstands-Use Case (z. B. automatisierte Angebote): 2–4 Wochen einmalige Bereinigung durch Werkstudent oder Junior, plus klare Prozessregeln für neue Daten. Keine Monate.

Kann KI selbst bei der Datenbereinigung helfen?

Ja. ChatGPT, Claude oder Power Automate können Dubletten erkennen, Inkonsistenzen markieren oder Freitext kategorisieren. Das spart enorm Zeit – ersetzt aber nicht die fachliche Prüfung.

Was, wenn unsere Daten in verschiedenen Systemen liegen?

Das ist normal. Erstellen Sie ein einfaches Data Inventory (Excel reicht), um Überblick zu bekommen. Für KI-Projekte reicht oft ein Export aus 1–2 Kernsystemen – nicht alle Quellen müssen integriert sein.

Wer sollte für Datenqualität verantwortlich sein?

Nicht die IT allein. Datenqualität ist Fachthema: Vertrieb kennt Kunden, Produktion kennt Maschinen. Ein Data Steward (oft Teilzeit) koordiniert – aber die Fachabteilungen müssen mitspielen.

KI-Sherpa® · KI-Potentialgespräch

Sie wollen wissen, wo bei Ihnen der erste KI-Hebel liegt?

In 30 Minuten schauen wir auf Ihre echten Prozesse und benennen den Anwendungsfall, der sich bei Ihnen zuerst rechnet. Kostenfrei, ohne Folienschlacht.

DB
Daniel Blümlein begleitet als KI-Sherpa® die KI-Transformation in über 20 mittelständischen und industriellen Unternehmen — vom Maschinenbau bis zur Lebensmittelproduktion. Bekannt aus Computerwoche und Südwestpresse.