Qualitätssicherung mit KI: Fehler finden, bevor sie teuer werden

KI-gestützte Qualitätssicherung erkennt Auffälligkeiten früh im Prozess, bevor aus einer übersehenen Abweichung Nacharbeit, Ausschuss, Lieferverzug oder eine Kundenreklamation wird. Das kann eine beschädigte Oberfläche auf einem Kamerabild sein, ein falscher Betrag in einem Dokument oder ein ungewöhnlicher Verlauf von Temperatur, Vibration oder Strom. Entscheidend ist nicht das Modell allein, sondern ein kontrollierter Prüfprozess mit eindeutigen Fehlerklassen, belastbaren Referenzdaten und einer klaren Reaktion auf jeden Befund.

Ein produktiver KI-Mitarbeiter ersetzt weder Toleranzvorgaben noch Prüfverantwortung. Er sammelt die zulässigen Eingangsdaten, führt Modell- und Regelprüfungen aus, zeigt Quelle und Begründung, leitet unsichere Fälle an Prüfpersonal weiter und schreibt nur bestätigte Ergebnisse in führende Systeme.

Drei Formen der KI-Qualitätskontrolle

1. Visuelle Inspektion

Kamera- und optische 3D-Daten eignen sich für Fehlstellen, Anomalien, falsche Montagezustände und Vollständigkeitsprüfungen. Fraunhofer beschreibt die Kombination aus lernenden Verfahren für komplexe Fehlerbilder und klassischer Bildverarbeitung für Geometrien und Toleranzen. Beleuchtung, Perspektive, Bauteilvariante und Bildschärfe gehören deshalb ebenso zur Prüfspezifikation wie das Modell.

2. Dokumentenprüfung

Bei Rechnungen, Prüfberichten, Lieferscheinen oder Spezifikationen erkennt ein Dienst Dokumenttyp, Felder, Tabellen und Struktur. Danach vergleichen deterministische Regeln Beträge, Materialnummern, Datumswerte, Freigabestatus oder Pflichtangaben mit Stammdaten und Vorgängen. Ein einzelner Fehler in einem kritischen Feld kann wichtiger sein als mehrere unkritische Zeichenfehler.

3. Prozess- und Sensordaten

Zeitreihen aus Maschinen und Prozessen können auf Abweichungen hinweisen, bevor ein Endprodukt geprüft wird. Kräfte, Temperatur, Vibration, Strom, Prozessparameter und Qualitätsdaten werden zeitlich sauber verbunden. Ein auffälliges Signal ist zunächst ein Prüfhinweis; Ursache und Maßnahme werden nicht ohne fachliche Regel oder Freigabe behauptet.

Hybrid schlägt Modell-Monokultur

Lernende Modelle sind stark bei Mustern, die sich nur schwer als feste Regel formulieren lassen. Eindeutige Grenzen gehören dagegen in deterministische Prüfungen: Maße und Toleranzen, Prüfsummen, Pflichtfelder, Dubletten, zulässige Werte, Versionsstände und Freigabereihenfolgen. Der kombinierte Ablauf ist leichter zu testen und erklärt klarer, warum ein Fall akzeptiert, zurückgewiesen oder eskaliert wurde.

Datenqualität ist das erste Freigabe-Gate

Vor der Modellwahl wird festgelegt, was als Gutteil, Fehler, kritisches Feld und zulässige Abweichung gilt. Trainings-, Validierungs-, Test- und Betriebsdaten bleiben getrennt. Herkunft, Aufnahmebedingungen, Labelversion, Produkt- oder Dokumentvariante und bekannte Lücken werden dokumentiert. Seltene, aber schadenträchtige Fälle gehören bewusst in ein unverändertes Golden Set.

Eine Gesamtgenauigkeit kann lokale Schwächen verdecken. Die Auswertung wird deshalb nach Fehlerklasse, Kritikalität, Linie, Kamera, Produktvariante, Dokumenttyp oder Lieferant segmentiert. Für Dokumente sind feldbezogene Treffer auf Betrag, Kontoverbindung oder Materialnummer aussagekräftiger als eine allgemeine OCR-Quote.

Datenfluss, Provider und Berechtigungen konkret festlegen

Der Datenfluss beginnt bei Kamera, Scanner, E-Mail, Sensor oder Fachsystem. Eine Vorverarbeitung minimiert und normalisiert die Eingabe; anschließend folgen Modellinferenz, Konfidenz- und Regelprüfung, Fallrouting, Freigabe und Übergabe in ERP, MES, QMS, DMS oder Ticketing. Zu jeder Entscheidung bleiben Quellbezug, Zeitpunkt, Modell-, Prompt- und Regelversion, Provider, Konfidenz und Freigabestatus erhalten.

Ob Inferenz als Cloud-Dienst, verwaltete Plattform, Edge-Komponente oder in eigener Infrastruktur läuft, wird nach Latenz, Schutzbedarf, Datenstandort, Skalierung, Updatekontrolle, Exportierbarkeit, Verfügbarkeit, Kosten und Support entschieden. Für jeden Provider werden übertragene Felder, Region, Aufbewahrung, Unterauftragnehmer, Nutzung zu Trainingszwecken, technische Kontrollen und Exit-Plan dokumentiert. Keine Variante ist pauschal sicherer oder rechtskonform.

Technische Identitäten erhalten nur die erforderlichen Rechte. Datenzugriff, Modell- oder Promptänderung, Schwellenwertänderung, Freigabe und Protokolladministration werden nicht unnötig gebündelt. Bilder, Dokumente, extrahierte Felder und Logs erhalten eigene Aufbewahrungs- und Löschfristen. Personenbezug und Rechtsgrundlage werden pro Datenfluss geprüft.

Schnittstellen sind Teil der Qualitätsprüfung

Eine gute Erkennung ist wertlos, wenn ein Ergebnis doppelt, verspätet oder dem falschen Vorgang zugeordnet wird. API-Verträge definieren Schemaversion, Korrelations-ID, Idempotenzschlüssel, Zeitstempel, Fehlerklassen, Timeouts und begrenzte Wiederholungen. Nicht verarbeitbare Fälle gehen in eine kontrollierte Warteschlange oder manuelle Bearbeitung statt verloren zu gehen.

Freigaben nach Risiko staffeln

Hohe Modellsicherheit allein rechtfertigt keine automatische Entscheidung. Entscheidend sind zusätzlich Schadenswirkung, Neuartigkeit und Reversibilität. Ein klarer, risikoarmer Fall kann automatisiert weiterlaufen. Ein kritischer Fehler, eine neue Produktvariante, ein schlechtes Bild oder ein ungewöhnliches Dokument geht an einen Menschen. Der Prüfer sieht Originalquelle, markierte Region oder Textspanne, Regelverletzung und Modellhinweis.

Der EU AI Act verlangt für als Hochrisiko eingestufte Systeme unter anderem laufendes Risikomanagement, Data Governance, Protokollierung, menschliche Aufsicht sowie Genauigkeit, Robustheit und Cybersicherheit. Diese Pflichten gelten nicht automatisch für jede Qualitätsprüfung; die konkrete rechtliche Einstufung und weitere Branchenregeln müssen separat geprüft werden.

Monitoring misst fachliche Qualität und Betrieb getrennt

• Fehlerdurchschlupf und Pseudofehlerrate je Fehlerklasse und Kritikalität beobachten.
• manuelle Prüfquote, Prüfzeit, Übersteuerungsrate und strukturierte Korrekturgründe auswerten.
• Datenqualität, neue Varianten, Konfidenzverteilungen und Fehlerbilder auf Drift prüfen.
• Verfügbarkeit und Latenz nach Quelle, Netzwerk, Provider, Modellservice und Zielsystem trennen.
• Kosten pro geprüftem Vorgang und pro korrekt erkanntem relevanten Fehler erfassen.
• Vollständigkeit von Quellenbezug, Versionen, Freigaben und Ergebnisprotokollen prüfen.

Modelle, Prompts, Regeln, Schwellenwerte und Provider werden versioniert. Änderungen laufen zunächst gegen das Golden Set und im Shadow Mode parallel zur bestehenden Prüfung. Erst nach definierten Akzeptanzkriterien wird eine neue Version freigegeben. Vorfälle haben Abschaltkriterien, Ansprechpartner, Ursachenanalyse, Korrekturmaßnahmen und eine erneute Validierung vor Wiederaufnahme.

Ein Pilot mit einer messbaren Hypothese

• Einen klaren Qualitätsengpass und eine verantwortliche Fachrolle auswählen.
• Fehlertaxonomie, Kostenfolgen, Datenumfang und zulässige Aktionen vorab festlegen.
• Referenzstichprobe und bestehende manuelle Baseline erfassen.
• Zunächst nur Empfehlungen im Shadow Mode erzeugen und Abweichungen erklären.
• Schwellenwerte und Freigaben anhand realer Pilotdaten kalibrieren.
• Teilautomatisierung nur für nachweislich geeignete Fallgruppen aktivieren.

So baut agentworx KI-Qualitätssicherung

agentworx ist eine KI-Agentur aus München und baut KI-Mitarbeiter für Geschäftsprozesse. Für die Qualitätssicherung verbinden wir Erkennungsmodelle mit fachlichen Regeln, Datenquellen, Schnittstellen, Berechtigungen und Freigaben zu einem kontrollierten Arbeitsablauf.

Gemeinsam legen wir fest, welche Bilder, Dokumentfelder oder Prozesssignale welche Komponente erreichen, welcher Provider welchen Schritt übernimmt und welche technischen sowie vertraglichen Kontrollen gelten. Die führenden ERP-, MES-, QMS-, DMS- oder Ticketsysteme bleiben führend; schreibende Aktionen werden begrenzt, idempotent ausgeführt und verifiziert.

Zum Betrieb gehören Monitoring für Fehlerdurchschlupf, Pseudofehler, Drift, Schnittstellen und Kosten, ein getesteter Fallback sowie klare Verantwortlichkeit für Freigabe und Vorfälle. So entsteht ein KI-Mitarbeiter, der Prüfpersonal gezielt entlastet und Qualitätsentscheidungen nachvollziehbarer macht, ohne eine fehlerfreie Automatisierung vorzutäuschen.