Niemand will ungeprüfte KI-Daten im ERP: warum der Prüf-Klick das wichtigste Feature ist

Der Einwand kommt zuverlässig in jedem Gespräch über KI im Posteingang – und meistens von den Menschen, die es am besten wissen: „Und wenn die KI eine falsche Zahl ins System schreibt? Dann merken wir das erst, wenn der Kunde anruft.“ Der Einwand ist nicht übervorsichtig. Er ist der wichtigste Satz der ganzen Diskussion.

Denn das ERP ist kein Notizbuch. Was dort steht, wird kommissioniert, geliefert, fakturiert und gemahnt. Wo generell die Grenze zwischen fester Automatisierung und KI-Einsatz verläuft, haben wir in Automatisierung oder KI-Agent? sortiert. Hier geht es um die Frage dahinter: Wie kommt KI-gelesene Information so ins ERP, dass niemand nachts schlecht schläft? Die kurze Antwort: über einen Prüfschritt. Die lange Antwort lohnt sich trotzdem.

KI liest Belege inzwischen erstaunlich gut – aber nicht fehlerfrei. Und das wird sie auch nicht: Belege sind so vielfältig wie ihre Absender. Gescannte Faxe, Fotos vom Lieferschein, Excel-Anhänge mit drei Tabellenblättern, Bestellungen im Fließtext. Die ehrliche Aussage jedes seriösen Anbieters lautet: Die Erkennung ist sehr gut, aber sie ist nicht hundert Prozent – bei keinem System.

Das gilt übrigens in beide Richtungen: Auch Menschen tippen sich. Eine Metaanalyse über 93 Studien zur Datenerfassung (aus der klinischen Forschung, wo Erfassungsfehler besonders genau gemessen werden) fand bei manueller Einfacherfassung im Schnitt rund 3 Fehler pro 1.000 Felder – bei automatischer optischer Erfassung ohne Kontrolle mehr als das Doppelte. Am besten schnitt die Erfassung mit zweiter Kontrollinstanz ab, mit etwa der halben Fehlerquote der Einzelerfassung. Die Lehre daraus ist nicht „Mensch schlägt Maschine“, sondern: Fehlerfrei ist keiner von beiden – erst der zweite Blick macht den Unterschied. Genau das ist die Idee hinter dem Prüfschritt.

Das eigentliche Problem ist nicht der Fehler selbst, sondern wo er landet. Ein Tippfehler in einer E-Mail ärgert niemanden. Derselbe Fehler im ERP löst eine Kette aus:

Dazu kommt die stille Variante: Fehler, die niemand bemerkt. Eine falsch zugeordnete Artikelnummer, eine vertauschte Liefer- und Rechnungsadresse, ein Datum im falschen Format. Solche Fehler tauchen nicht in der Reklamation auf, sondern in der Nachkalkulation, in der Inventurdifferenz oder in der Statistik – Monate später, wenn die Ursache längst nicht mehr rekonstruierbar ist. Wer schon einmal Datenqualität aufräumen musste, kennt den Aufwand; wir haben ihm mit Datenqualität im Mittelstand einen eigenen Beitrag gewidmet.

Das Prinzip heißt in der Fachsprache Human in the Loop – der Mensch bleibt in der Schleife. Konkret sieht das so aus: Die KI liest den Beleg, extrahiert die Daten und stellt sie neben das Original – Position für Position. Ein Mensch sieht auf einen Blick: Was wurde erkannt, was wurde daraus gemacht, wo ist sich das System unsicher? Erst nach der Freigabe wandern die Daten ins ERP.

So sieht dieser Prüfschritt in unserer Belegverarbeitung aus – links der Originalbeleg, rechts die erkannten Daten:

Der häufigste Einwand gegen den Prüfschritt lautet: „Dann können wir es ja gleich selbst abtippen.“ Das unterschätzt den Unterschied zwischen zwei Tätigkeiten: Prüfen ist nicht Erfassen. Zwanzig Positionen abzutippen dauert Minuten und produziert eigene Tippfehler. Zwanzig vorerfasste Positionen gegen das Original zu prüfen dauert Sekunden – die Augen springen nur dorthin, wo etwas nicht zusammenpasst. Die mühsame Übertragungsarbeit ist weg, die Kontrolle bleibt.

• Der Zeitgewinn bleibt erhalten

  Der Aufwand verschiebt sich vom Übertragen zum Bestätigen. Das ist der Teil der Arbeit, der Erfahrung braucht – und der Teil, der bleibt, ist der kürzeste.

• Unsicherheit wird sichtbar

  Ein gutes System markiert, wo es sich nicht sicher ist – die schlecht lesbare Menge, der unbekannte Artikel. Die Prüfung konzentriert sich auf genau diese Stellen statt auf alles gleichzeitig.

• Fehler kosten Sekunden statt Gutschriften

  Der Korrekturaufwand fällt an der billigsten Stelle an: vor der Übernahme. Jede Korrektur nach der Übernahme kostet ein Vielfaches – quer durch Auftrag, Lieferung und Rechnung.

„Human in the Loop“ heißt nicht, dass ein Mensch jede Kleinigkeit absegnen muss. Es heißt, dass die Automatisierungstiefe zur Tragweite passt. Eine einfache Faustregel hat sich bewährt: Je näher am Geld, desto mehr Prüfung.

Interessant ist, was mit der Zeit passiert: Das Vertrauen wächst mit den Daten. Wer nach einigen Wochen sieht, dass bestimmte Belegtypen von bestimmten Absendern praktisch immer korrekt erkannt werden, kann die Prüftiefe dort bewusst reduzieren – auf Stichproben statt Vollprüfung. Das ist der richtige Weg herum: erst messen, dann lockern. Nicht umgekehrt.

Wer den Prüfschritt intern begründen muss, bekommt Unterstützung von unerwarteter Seite: Die europäische KI-Verordnung macht menschliche Aufsicht für Hochrisiko-KI-Systeme zur Pflicht. Belegverarbeitung fällt nicht in diese Kategorie – eine ausgelesene Bestellung ist kein Hochrisiko-Fall. Aber das Prinzip dahinter ist als Maßstab trotzdem richtig: Je größer die Wirkung einer automatisierten Entscheidung, desto wichtiger ist die Möglichkeit, einzugreifen, bevor sie wirkt.

Für die Praxis heißt das: Ein dokumentierter Prüfschritt ist nicht nur operative Vorsicht, sondern auch das bessere Argument – gegenüber der Geschäftsführung, der IT und allen, die zu Recht fragen, wer am Ende die Verantwortung für die Daten im System trägt. Die Antwort bleibt dieselbe wie vor der KI: ein Mensch. Nur mit deutlich weniger Tipparbeit.

Fazit

Die Frage „Was, wenn die KI sich irrt?“ verdient eine bessere Antwort als „Das kommt selten vor“. Die bessere Antwort ist ein Systemdesign, in dem der Irrtum nichts anrichten kann: automatisch sortieren, mit Prüf-Klick erfassen, Entscheidungen beim Menschen lassen. Wenn Sie derzeit KI-Systeme für den Posteingang vergleichen, machen Sie den Prüfschritt zum Ausschlusskriterium – und lassen Sie sich zeigen, wie er aussieht, bevor Sie über Erkennungsraten sprechen.

Ihr viamind-Team