KI-Agenten nachvollziehbar machen: zwei Zahlen, die wir streichen

Zwei Behauptungen, die dieser Beitrag früher aufstellte, nehmen wir zurück. Die erste lautete, 88 % aller KI-Agenten erreichten nie den Produktivbetrieb, und fehlende Nachvollziehbarkeit sei der Hauptgrund dafür. Die zweite kam später: Sie las eine leere Zeile in einem Suchbericht als Beweis, dass Käufer ihre Prioritäten verkehrt herum setzen.

Die erste stützte sich auf die Zusammenstellung von Unternehmensumfragen durch einen Aggregator, dazu auf eine „Lücke“ von 68 Punkten zwischen Teams, die Agenten pilotieren, und Teams, die sie betreiben. Diese Lücke war eine Subtraktion zweier Zahlen, und wir können nicht zeigen, dass beide dasselbe unter „Produktivbetrieb“ verstanden haben. Eine Differenz zwischen Zahlen, die Verschiedenes bedeuten, misst nichts, die Lücke fällt also weg. Im Umlauf finden Sie Zahlen, nach denen etwa 88 % der KI-Agenten den Produktivbetrieb nie erreichen. Aggregatorbeiträge verpacken die Umfragen des jeweils anderen neu, die Definitionen von „Produktivbetrieb“ gehen auseinander, und wir würden auf keine dieser Zahlen ein Budget bauen. Die besser belegte öffentliche Zahl ist die Prognose von Gartner, dass über 40 % der Projekte mit agentischer KI bis 2027 eingestellt, zurückgestuft oder abgeschaltet werden, breit berichtet (The AI Insider), und sie bleibt eine Prognose.

Die zweite Behauptung war allein unsere. Google Ads, über DataForSEO am 11. Oktober 2026 für die USA und Englisch erhoben, weist für „prompt injection“ etwa 5.400 Suchanfragen pro Monat aus, gestiegen von 3.600 im September 2025 nach einer Spitze von 9.900 im August 2026. Für „ai agent observability“ weist es nichts aus. Wir schrieben daraus, die Leute suchten nach dem Angriff, den sie fürchten, und nicht nach dem Instrument, das ihn sichtbar machen würde. Das deckt eine Suchmaschine in einem Land ab, und es übergeht, wie ein Käufer fragt. Wer sich darum sorgt, tippt vielleicht „Audit-Trail“ und lernt unser Vokabular nie kennen. Eine leere Zeile heißt, dass wir die Nachfrage unter diesem Namen nicht messen konnten. Ein Argument ist das nicht.

Was Bestand hat

Der Mechanismus braucht keine der beiden Statistiken. Eine falsche Rückerstattung, ein still falsch bepreistes Angebot oder eine Prompt Injection lassen sich nicht untersuchen, wenn es keine Aufzeichnung davon gibt, was der Agent gesehen und getan hat. Und ein Team, das nicht sehen kann, warum ein Agent gehandelt hat, kann ihn nicht in Ordnung bringen, ihn gegenüber einer Prüfung nicht verteidigen und nicht entscheiden, ob es ihm mehr zutrauen will.

Ein Dienst, der 200 zurückgibt, hat getan, worum man ihn gebeten hat. Ein Agent, der eine saubere Antwort zurückgibt, kann das falsche Werkzeug aufgerufen, einen veralteten Datensatz gelesen oder einen Absatz auf einer erfundenen Zahl gebaut haben, während die Verfügbarkeit grün bleibt. Die Einheit, die man beobachtet, ist deshalb die Entscheidung: was dem Agenten gezeigt wurde, was er gewählt hat, was zurückkam und was er daraufhin tat.

Der Test, den wir anlegen würden, ist ein Mensch und kein Dashboard. Nehmen Sie eine Aktion vom letzten Dienstag, eine entworfene Bestellung oder ein geschlossenes Ticket, und bitten Sie eine Controllerin oder einen Support-Lead, nachzuvollziehen, warum sie zustande kam. Brauchen die beiden dafür einen Entwickler, der den Trace vorliest, haben Sie Protokollierung und keine Nachvollziehbarkeit. Eine Aufzeichnung, die den Test besteht, enthält die Eingaben, die der Agent gesehen hat, jeden Werkzeugaufruf mit seinen Argumenten und seiner Antwort, die Ausgaben und die Identität, unter der jede Aktion lief, in dieser Reihenfolge, in klaren Feldern und exportierbar.

Hier kommt der Teil, den Werkzeugvergleiche auslassen. Ein vollständiger Trace enthält den Namen des Kunden, die Rechnung, die Vertragsklausel und den Prompt. Ihr Trace-Speicher ist damit eine der sensibelsten Datenbanken im Haus, automatisch entstanden und oft standardmäßig an einen Dienst Dritter geschickt. Geben Sie ihm die Zugriffsregeln des sensibelsten Inhalts darin, und legen Sie eine Aufbewahrungsfrist fest, bevor der erste Trace geschrieben wird.

Stichproben passen zu einem Chatbot mit tausenden Gesprächen am Tag. Für einen Agenten, der vierzig Bestellungen gegen ein echtes Hauptbuch entwirft, ist Speicher günstig und ein fehlender Trace teuer, zeichnen Sie dort jeden Lauf auf. Günstige deterministische Prüfungen kommen vor jeder Bewertung durch ein Modell: Entspricht die Summe der Bestellung ihren Positionen, existiert der Lieferant, liegt der Betrag innerhalb der Freigabegrenze?

Der Test für Ihre eigenen Agenten ist eine Frage: Würden Sie merken, wenn einer letzte Woche etwas falsch gemacht hat? Ein Agent, der an einem sauberen führenden System hängt, etwa an einer Odoo- oder ERPNext-Installation mit vernünftigen Berechtigungen, hinterlässt Aktionen, die Sie bis zu einem Datensatz zurückverfolgen können; einer, der mit Tabellen zusammengeflickt ist, hinterlässt Lücken. Die benachbarten Fehlerbilder behandelt unser Beitrag zum Scheitern von Projekten mit agentischer KI, die Disziplin vor dem Start der Beitrag zu Evals für KI-Agenten. Lautet die Antwort nein, melden Sie sich bei uns, bevor er mehr übernimmt.