Ein Unternehmen prüft, ob es Callcenter-Anfragen mit KI beantworten lässt. Der Pilot läuft, die Auswertung kommt auf den Tisch: Fehlerquote rund vier Prozent.
Die Entscheidung fällt schnell und einstimmig: „Das können wir uns nicht leisten. Vier Prozent Fehler gegenüber unseren Kunden, undenkbar.“
Projekt beendet, zurück zum Bewährten.
Das wirkt auf den ersten Blick wie verantwortungsvolles Management. Bis jemand die eine Frage stellt, die in solchen Runden fast nie fällt:
Wie hoch ist eigentlich die Fehlerquote der Menschen, die diese Anfragen heute beantworten?
Stille. Niemand weiß es. Es hat nie jemand gemessen.
Und wenn man misst, kommt regelmäßig heraus: Auch menschliche Agents geben falsche Auskünfte, verwechseln Tarife, vergessen Rückrufe, haben schlechte Tage. Die menschliche Fehlerquote liegt in vielen dieser Tätigkeiten über den vier Prozent, gegen die eben einstimmig entschieden wurde.
Das Unternehmen hat eine Lösung abgelehnt, die weniger Fehler gemacht hätte als der Status quo — und fühlt sich dabei auch noch vorsichtig.
Woher der Doppelstandard kommt
Wir haben unsere Erwartungen an Maschinen über ein Jahrhundert an deterministischer Technik gebildet. Der Taschenrechner rechnet immer richtig. Software tut, was programmiert wurde, sonst ist es ein Bug.
Bei Menschen dagegen haben wir gelernt, mit Fehlern zu leben. Vier-Augen-Prinzip, Freigabeschleifen, Kulanz, der schlechte Tag wird verziehen.
Menschliche Fehler sind eingepreist. Maschinelle Fehler sind Skandale.
Generative KI fällt zwischen diese Kategorien. Sie ist eine Maschine, aber keine deterministische — sie hat aus menschlichen Daten gelernt und macht deshalb menschenähnliche Fehler.
Wer sie am Taschenrechner misst, lässt sie immer durchfallen. Wer sie am Menschen misst, entdeckt plötzlich, wie oft sie besteht.
Vier Fragen, die in einer halben Stunde Klarheit schaffen
- Wie gut ist die heutige Lösung wirklich? Die Basislinie ist Ihr Vergleichswert, nicht die Null
- Was kostet ein Fehler hier? Ärgerlich und korrigierbar oder irreversibel? Je teurer, desto mehr menschliche Kontrolle, unabhängig von der Quote
- Wo genau sitzt die Prüfung? Nicht „Mensch oder Maschine“, sondern: Wer erstellt, wer gibt frei, wer stichprobt
- Wann messen wir wieder? Ein Nein ohne Wiedervorlagedatum ist kein Urteil, sondern eine Beerdigung
Wichtig ist mir eine Abgrenzung: Das ist kein Argument dafür, Menschen zu ersetzen, wo die Quote es hergibt. Es ist ein Argument für Entscheidungen auf Basis echter Zahlen statt eines Reflexes.
Meist lautet das Ergebnis ohnehin: Mensch und KI gemeinsam schlagen beide Einzellösungen.
Nehmen Sie sich diese Woche einen Prozess vor, bei dem schon einmal jemand gesagt hat „das können wir uns nicht leisten“. Und fragen Sie dort zuerst nach der Basislinie.
Wo in Ihrer Organisation wird gerade etwas an Perfektion gemessen, das der bestehende Prozess selbst nie erreicht hat?
Die ausführliche Fassung dieser Ausgabe erscheint in meiner Serie „Unlimitierte Intelligenz“: mit dem vollständigen Entscheidungsraster, der unbequemen Kehrseite des fairen Vergleichs — und der Frage eines Betriebsrats, die eine ernste Antwort verdient.
Schreibe einen Kommentar