Zurück zur Black Box: Sperrt eure KI-Agenten nicht in Prozesse

Wer Agenten in bestehende Prozessketten presst, macht aus ihnen teure Workflow-Tools statt autonome Problemlöser.
_________________________________________________________________

Jahrzehntelang haben Organisationen die Black Box geöffnet: Prozesse dokumentiert, zerlegt, gemessen. Jetzt kommen KI-Agenten, und viele bauen sie brav in genau diese Kästchen ein. Unsere These: Wer Agenten einen Pfad vorschreibt, verschenkt den größten Teil ihres Potenzials. Prozessdesign muss vom Weg zum Ergebnis wechseln. Die Box geht damit wieder zu. Aber sie ist aus Glas.

Jahrzehntelang haben wir die Box geöffnet

Der Trend war eindeutig: die Box öffnen und jeden Schritt transparent, messbar und damit kontrollierbar machen. Prozesse wurden dokumentiert, standardisiert und über mehrere Ebenen bis auf einzelne Tasks heruntergebrochen. Das Ziel: Messbarkeit, Transparenz und Vergleichbarkeit, um schneller Effizienzen zu heben.

Der Nebeneffekt: In großen Organisationen hat heute oft jeder Prozessschritt seine eigene KPI, vergeben entlang der Abteilungsgrenzen. Die ganze Kette hat kaum jemand im Blick. Wer seinen Schritt grün meldet, hat seinen Job gemacht, auch wenn am Ende Qualität und Durchlaufzeit nicht stimmen. Für die Gesamtqualität fühlt sich kaum noch jemand zuständig.

Überspitzt gesagt: Solche Prozesse verhindern schlechte Arbeit. Herausragende Arbeit verhindern sie aber auch. 

KI in der alten Logik: Rezept zum Scheitern

In genau diese Logik wird nun KI eingebaut. Ein Team nimmt sich seinen Teil der Prozesskette vor und beginnt, seine Tasks zu automatisieren. Oft ohne Redesign, eingebettet in eine Workflow-Software. Der eigene Schritt wird schneller, an der nächsten Schnittstelle staut es sich, weil das folgende Team mit dem neuen Tempo nicht umgehen kann. Lokal optimiert, gesamt nichts gewonnen.

Dazu kommt ein ineffizienter KI-Einsatz. Ein großes Sprachmodell, welches planen, abwägen und selbst Wege finden könnte, wird auf einen besseren RPA-Bot reduziert: eine Eingabe, eine Ausgabe, ein fest verdrahteter Schritt. Darum herum mehrere Schichten „Überwachungssoftware“, die jeden Zwischenschritt absichern sollen. Rezept zum Scheitern.

Im Beitrag „Klebeband ist keine Strategie“ ist dies bereits treffend beschrieben: KI auf bestehende Workflows zu kleben, erzeugt Produktivitätstheater, aber keine besseren Ergebnisse. Die Konsequenz dort: Prozesse vom Ergebnis her neu designen, statt alte nachzurüsten. Dem stimmen wir zu, wollen aber einen Schritt weiter gehen. Denn auch viele Redesigns enden wieder als Flussdiagramm. Neue Kästchen, neue Pfeile, und in jedem Kästchen sitzt jetzt ein Agent. Das ist besser als Klebeband. Es ist aber immer noch Prozessdenken von gestern. 

Unser Vorschlag: Ergebnis vorgeben, nicht den Weg

Für agentische KI-Systeme müssen Prozesse völlig neu gedacht und alte Paradigmen verworfen werden. Neu ist die Forderung nicht: Michael Hammer schrieb schon 1990 „Don't automate, obliterate“. Konsequent umgesetzt wurde sie selten, auch weil ein einzelner Mensch nicht den ganzen Vorgang mit allem nötigen Wissen abdecken kann. Also wurde wieder zerlegt. Agenten verschieben genau diese Grenze.

Konkret heißt das:

• Ergebnis statt Pfad. Der Prozess beschreibt Ziel, Rahmenbedingungen und Akzeptanzkriterien. Wie der Agent dorthin kommt, findet er selbst heraus. 

• Sequenz nur, wo die Sache sie verlangt. Die Zahlung kommt nach der Freigabe, daran ändert keine KI etwas. Viele Reihenfolgen bilden aber nur ab, welche Abteilung wann dran ist. Die fallen weg.

• Mensch nur, wo er gebraucht wird. Bei Ermessen, hohem Risiko oder regulatorischer Pflicht. Nicht als Freigabestempel für jeden Zwischenschritt. Anthropic kommt in einer Auswertung realer Agenten-Nutzung zum selben Schluss: Wirksame Aufsicht heißt nicht, jede Aktion freizugeben, sondern eingreifen zu können, wenn es darauf ankommt.

• Optimiert wird auf Ergebnisqualität pro Euro. Nicht auf ein Flussdiagramm, das alle im Intranet verstehen.

Kontrolle geht dabei nicht verloren, sie wandert. Statt den Weg vorab festzulegen, wird das Ergebnis geprüft und der Weg lückenlos nachvollziehbar gemacht: durch exzessive Audit Trails, sinnvoll gesetzte Quality Gates und qualitativ hochwertige Tests. Für die Auswertung der Logs setzt der Mensch wieder KI ein. So entstehen Prozesse, die sich selbst verbessern können. 

Damit ist die Frage aus dem Titel beantwortet: Ja, die Box geht wieder zu. Aber sie ist aus Glas.

Warum das funktioniert: Ein Blick in die Softwareentwicklung

Dass dieser Ansatz funktioniert, lässt sich in der Softwareentwicklung und insbesondere bei den KI-Labs selbst schon beobachten. Coding-Agenten bekommen dort ein Ziel und eine Testsuite, keinen Schritt-für-Schritt-Plan. Bei Anthropic hat sich die Zahl der Aktionen, die Claude Code ohne menschlichen Eingriff hintereinander ausführt, laut einer internen Auswertung mehr als verdoppelt: von 9,8 auf 21,2. Die menschlichen Eingriffe pro Sitzung sind im selben Zeitraum um ein Drittel gesunken.

Dass es gerade dort klappt, ist kein Zufall. Das Ergebnis ist billig überprüfbar: Compiler, Tests und automatisierte Pipelines sagen sofort, ob es passt. Genau das ist die Blaupause für andere Bereiche. Wo sich Akzeptanzkriterien sauber formulieren lassen, etwa bei Rechnungsprüfung, Datenabgleichen oder Reportings, lässt sich das Modell übertragen. Wo Ermessen dominiert, braucht es mehr Mensch. Und das ist gut so. 

Die eigentliche Frage: Wer versteht noch, was in der Box passiert?

Die spannende Frage für die Zukunft ist eine andere: Wie bauen Mitarbeitende genug Wissen auf, um aufkommende Probleme schnell zu lösen und wichtige fachliche Entscheidungen selbst zu treffen? Wenn Agenten die Ausführung übernehmen, fällt genau die Praxis weg, in der dieses Wissen bisher entstanden ist.

Anthropic beschreibt dies als „Paradox der Aufsicht“: Um KI zu beaufsichtigen, braucht man genau die Fähigkeiten, die durch zu viel KI-Nutzung verkümmern können. Eine Box aus Glas nützt nur, wenn jemand hineinschaut und versteht, was er sieht.

Für Organisationen heißt das: Prozessredesign und Kompetenzaufbau sind kein Nacheinander, sondern ein Projekt. Wer Agenten mehr Freiheit gibt, muss Menschen mehr Wissen geben. Nicht weniger. 

Fazit

Outcome-driven Prozessdesign ist kein Kontrollverlust, sondern eine Verschiebung: Statt jeden Schritt vorab festzulegen, wird das Ergebnis geprüft und der Weg über Audit Trails und Quality Gates lückenlos nachvollziehbar gemacht. Die Box aus Glas ersetzt das Flussdiagramm. Wer das konsequent umsetzt, gewinnt echte Ergebnisqualität. Wer Agenten weiterhin in starre Kästchen zwingt, bekommt bestenfalls einen schnelleren RPA-Bot.

Der Mensch tritt dabei nicht ab, sondern verschiebt sich: vom Freigabestempel zur Instanz, die bei Ermessensfragen, hohem Risiko oder regulatorischer Pflicht eingreift. Wer glaubt, Prozessredesign und Kompetenzaufbau getrennt denken zu können, läuft dem Paradox der Aufsicht geradewegs in die Falle. Wer beide Seiten gemeinsam angeht, behält auch dann die Übersicht, wenn Agenten den Weg selbst finden.

Wir unterstützen Sie gerne! 

Gemeinsam identifizieren wir, welche Ihrer Prozesse sich für ein ergebnisorientiertes Redesign eignen, und bauen die passenden Governance-Strukturen sowie das nötige Fachwissen Ihrer Mitarbeitenden dafür auf. Für ein Erstgespräch melden Sie sich gerne jederzeit bei uns!

Quellen

• Hai Son Nguyen: Klebeband ist keine Strategie, PwC Österreich Digital Blog, 2026

• Michael Hammer: Reengineering Work: Don't Automate, Obliterate, Harvard Business Review, 1990 

• Anthropic: Measuring AI agent autonomy in practice, 2026

• Anthropic: How AI is transforming work at Anthropic, 2025