Lassen Sie nur geprüfte KI-Daten in Ihr ERP: die Freigabe ist wichtiger als die Erkennungsrate

„Wie verhindern wir, dass die KI falsche oder ungeprüfte Werte ins System schreibt? Das merken wir erst dann, wenn der Kunde anruft.“ Die Frage hören wir häufig – zu Recht – in Gesprächen über KI im Posteingang. Der Einwand ist nicht übervorsichtig oder technikfeindlich, sondern berechtigt und notwendig.

Denn das ERP ist kein Notizbuch. Was im Auftrag steht, wird kommissioniert, geliefert, fakturiert und gemahnt. Wo die Grenze zwischen fester Automatisierung und KI-Einsatz verläuft, haben wir in Automatisierung oder KI-Agent? besprochen. Hier geht es um die Frage dahinter: Wie kommt KI-gelesene Information so ins ERP, dass jeder nachts ruhig schlafen kann? Die kurze Antwort: über eine Freigabe. Die lange Antwort lohnt sich und erläutert die Hintergründe.

KI liest Belege inzwischen erstaunlich gut – aber nicht immer fehlerfrei. Und das wird vermutlich auch noch lange so bleiben: Belege sind so vielfältig wie ihre Absender. Gescannte Faxe, Fotos vom Lieferschein, Excel-Anhänge mit drei Tabellenblättern, Bestellungen im Fließtext. Die ehrliche Aussage eines seriösen Anbieters lautet: Die Erkennung ist sehr gut, aber sie ist nicht hundertprozentig – Stand heute bei keinem System.

Das gilt übrigens in beide Richtungen: Auch Menschen vertippen sich. Eine Metaanalyse über 93 Studien zur Datenerfassung (aus der klinischen Forschung, wo Erfassungsfehler besonders genau gemessen werden) fand bei manueller Einfacherfassung im Schnitt rund 3 Fehler pro 1.000 Felder. Am besten schnitt die Erfassung mit zweiter Kontrollinstanz ab – mit etwa der halben Fehlerquote. Die ausgewerteten Studien stammen aus den Jahren 1978 bis 2008; was dort als automatische Erfassung gemessen wurde, ist Formularscan von damals und nicht die KI-Extraktion von heute. Übertragbar ist deshalb nicht die Fehlerquote, sondern das Prinzip: Fehlerfrei ist keine Methode – erst der zweite Blick macht den Unterschied. Genau das ist die Idee hinter dem Prüfschritt.

Das eigentliche Problem ist nicht der Fehler selbst, sondern wo er landet. Ein Tippfehler in einer E-Mail ärgert niemanden. Derselbe Fehler im ERP löst eine Kette aus:

Dazu kommt die stille Variante: Fehler, die niemand bemerkt. Eine falsch zugeordnete Artikelnummer, eine vertauschte Liefer- und Rechnungsadresse, ein Datum im falschen Format. Solche Fehler tauchen nicht in der Reklamation auf, sondern in der Nachkalkulation, in der Inventurdifferenz oder in der Statistik – Monate später, wenn die Ursache längst nicht mehr rekonstruierbar ist. Wer schon einmal schlechte Datenqualität aufräumen musste, kennt den Aufwand; wir haben dem Thema mit Datenqualität im Mittelstand einen eigenen Beitrag gewidmet.

Das Prinzip heißt in der Fachsprache „Human in the Loop“ – der Mensch bleibt in der Schleife. Konkret sieht das so aus: Die KI liest den Beleg, extrahiert die Daten und stellt sie neben das Original – Position für Position. Ein Mensch sieht auf einen Blick: Was wurde erkannt, was wurde daraus gemacht, wo ist sich das System unsicher? Erst nach der Freigabe wandern die Daten ins ERP.

So sieht dieser Prüfschritt in unserer Belegverarbeitung aus – links der Originalbeleg, rechts die erkannten Daten:

Was nach der Freigabe passiert, hängt vom Zielsystem ab: Aus den geprüften Daten wird ein strukturierter Datensatz in dem Format, das Ihr ERP erwartet – bei enventa Trade ERP typischerweise openTrans 2.1, anderswo XML, CSV oder JSON. Der Prüfschritt ändert daran nichts. Er entscheidet nur, ob dieser Datensatz überhaupt entsteht.

Der häufigste Einwand gegen den Prüfschritt lautet: „Dann können wir es ja gleich selbst abtippen.“ Das unterschätzt den Unterschied zwischen zwei Tätigkeiten: Prüfen ist nicht Erfassen. Zwanzig Positionen abzutippen dauert Minuten und produziert eigene Tippfehler. Zwanzig vorerfasste Positionen gegen das Original zu prüfen dauert Sekunden – die Augen springen nur dorthin, wo etwas nicht zusammenpasst. Die mühsame Übertragungsarbeit ist weg, die Kontrolle bleibt.

• Der Zeitgewinn bleibt erhalten

  Der Aufwand verschiebt sich vom Übertragen zum Bestätigen. Das ist der Teil der Arbeit, der Erfahrung braucht – und der Teil, der bleibt, ist der kürzeste.

• Unsicherheit wird sichtbar

  Ein gutes System markiert, wo es sich nicht sicher ist – die schlecht lesbare Menge, der unbekannte Artikel. Die Prüfung konzentriert sich auf genau diese Stellen statt auf alles gleichzeitig.

• Prüfen kostet Sekunden, nicht Gutschriften

  Der Korrekturaufwand fällt an der günstigsten Stelle an: vor der Übernahme. Jede Korrektur nach der Übernahme kostet ein Vielfaches – quer durch Auftrag, Lieferung und Rechnung.

„Human in the Loop“ heißt nicht, dass ein Mensch jede Kleinigkeit absegnen muss. Es heißt, dass die Automatisierungstiefe zur Tragweite passt. Eine einfache Faustregel hat sich bewährt: Je näher am Geld, desto mehr Prüfung.

Die Drei-Stufen-Regel

Interessant ist, was mit der Zeit passiert: Das Vertrauen wächst mit den Daten. Wer nach einigen Wochen sieht, dass bestimmte Belegtypen von bestimmten Absendern praktisch immer korrekt erkannt werden, kann die Prüftiefe dort bewusst reduzieren – auf Stichproben statt Vollprüfung. Das ist der richtige und sichere Weg: erst messen, dann lockern. Nicht umgekehrt.

Ehrlich dazu gehört die Gegenrichtung: Bei sehr hohen Stückzahlen kleiner, gleichförmiger Belege kann die Vollprüfung selbst zum Engpass werden – dann sitzt jemand acht Stunden vor Positionen, die praktisch nie abweichen. Die Antwort darauf ist nicht, die Prüfung wegzulassen, sondern sie nach Risiko zu staffeln: Wertgrenzen, Stichproben, Ausreißer-Regeln. Wer das nicht messen kann, sollte es auch nicht lockern.

Wer die Freigabe intern begründen muss, bekommt Unterstützung von unerwarteter Seite: Die europäische KI-Verordnung macht menschliche Aufsicht für Hochrisiko-KI-Systeme zur Pflicht. Belegverarbeitung fällt nicht in diese Kategorie – eine ausgelesene Bestellung ist kein Hochrisiko-Fall. Aber das Prinzip dahinter ist als Maßstab trotzdem richtig. Wie Sie diese Einordnung für Ihre eigenen Systeme festhalten, zeigt KI-Verordnung im Handel: eine Seite, zwei Termine.

In unseren ERP-Projekten – überwiegend im Umfeld von enventa Trade ERP – entscheidet vor allem die Reihenfolge: erst der Prüfschritt, dann die Automatik, nie umgekehrt. Wer zuerst automatisiert und die Kontrolle nachrüsten will, sucht die Fehler später dort, wo sie am teuersten sind.

Für die Praxis heißt das: Ein dokumentierter Prüfschritt bringt Sicherheit im Ablauf und schafft Vertrauen bei Kollegen, der IT und der Geschäftsführung. Denn die finale Entscheidung und Verantwortung verbleiben beim Menschen – nur mit deutlich weniger Tipparbeit.

Die Frage „Was, wenn die KI sich irrt?“ verdient eine bessere Antwort als „Das kommt selten vor“. Die bessere Antwort ist ein Systemdesign, in dem der Irrtum nichts anrichten kann – und das passt auf einen Bierdeckel.

Ihr viamind-Team