Ein KI-Agent glänzte in der Demo, beantwortete jede Umsatzfrage des CFO und bekam grünes Licht für den Produktivbetrieb. Dort meldete er dem Finanzteam dann 12 Millionen US-Dollar Umsatz im vierten Quartal. Tatsächlich waren es 8,4 Millionen. Das Modell hatte sich nicht verrechnet. Es zog revenue_recognized statt revenue_net_of_returns, weil ihm niemand gesagt hatte, welches Feld die verbindliche Definition trägt (Atlan, 2026).

Genau diese Lücke zwischen dem Vorhandensein von Daten und dem Verständnis ihrer Bedeutung ist der Grund, warum immer mehr KI-Teams in Unternehmen ihre Aufmerksamkeit von Prompt Engineering auf Context Engineering verlagern. Prompt Engineering optimiert die Frage, die Sie einem Modell stellen. Context Engineering optimiert alles, was das Modell sehen kann, bevor es antwortet: welche Systeme es abfragen darf, welche Definitionen gerade gelten und welche Entitätsdatensätze über Abteilungen hinweg tatsächlich zusammenpassen (Salesforce, 2026).

Warum das mehr wiegt als die Wahl des Modells

Scheitert ein Agent, zeigen alle auf das Modell. Die Daten sagen etwas anderes. Nur 7 Prozent der Unternehmen halten ihre Daten für vollständig KI-fähig, so eine Studie von Cloudera und Harvard Business Review Analytic Services vom März 2026. Und laut dem State of Context Management Report 2026 von DataHub bezeichnen 88 Prozent der Unternehmen ihren Kontext als „operativ“, während 61 Prozent KI-Initiativen dennoch verschieben, weil dieser Kontext in der Praxis nicht nutzbar ist (Atlan, 2026).

Die Vertrauenswerte bewegen sich in dieselbe Richtung. Das Capgemini Research Institute stellte fest, dass das Vertrauen in vollständig autonome KI-Agenten binnen eines Jahres von 43 auf 27 Prozent gefallen ist und 80 Prozent der Organisationen weiterhin keine ausgereifte KI-Infrastruktur dafür haben (Capgemini, 2025). Stärkere Modelle lösen das nicht. Ein leistungsfähigeres Modell trägt seine falsche Antwort nur überzeugender vor.

Diagramm mit vier Kennzahlen zur Kontextlücke in der Unternehmens-KI für 2026

KennzahlWertQuelle
Unternehmen mit vollständig KI-fähigen Daten7 %Cloudera / HBR Analytic Services, März 2026
Unternehmen, die ihren Kontext als operativ bezeichnen88 %DataHub State of Context Management Report 2026
Wegen unbrauchbaren Kontexts verschobene Initiativen61 %DataHub State of Context Management Report 2026
Organisationen ohne ausgereifte KI-Infrastruktur80 %Capgemini Research Institute, 2025

Die vier Fehlermuster hinter den meisten Agentenfehlern

Agenten, die ohne Kontextschicht gebaut werden, scheitern meist auf dieselben vier Arten, und keine davon ist ein Modellproblem:

  • Bedeutung zerfällt über Systeme hinweg. „Kunde“ im CRM, in der Fakturierung und im Support-Desk trägt oft drei verschiedene Identifikatoren, ohne jede Zuordnung zwischen ihnen. Der Agent verknüpft die Tabellen trotzdem und liefert eine Zahl, die richtig aussieht und es nicht ist.
  • Geschäftsdefinitionen leben als Erfahrungswissen. Hält niemand fest, welche Kennzahl die verbindliche ist, füllt das Modell die Lücke mit einer plausiblen Vermutung.
  • Entitätsidentität wird überall anders aufgelöst. Eine Frage über CRM, Fakturierung und Support hinweg setzt voraus, dass derselbe reale Kunde in allen drei Systemen wiedererkannt wird. Dafür wurden die meisten Schemata nie gebaut.
  • Antworten lassen sich nicht auf ihre Quelle zurückführen. Ohne Herkunftsnachweis ist eine falsche Zahl von einer richtigen nicht zu unterscheiden, bis jemand weiter hinten in der Kette den Schaden bemerkt.

Was eine Kontextschicht tatsächlich leistet

Eine Kontextschicht liegt zwischen Ihren Geschäftssystemen und jedem Agenten, der sie abfragt. Sie übersetzt rohe Metadaten, also Tabellennamen und Spalten, in geregelte fachliche Bedeutung: freigegebene Kennzahlendefinitionen, systemübergreifende Entitätszuordnung, Zugriffsrichtlinien und einen Prüfpfad für jede Antwort (Atlan, 2026). Das ist etwas anderes als die Interoperabilitätsschicht, die Protokolle wie MCP bereitstellen (siehe unseren Beitrag zur Interoperabilität von KI-Agenten). MCP verschafft einem Agenten überhaupt erst Zugang zu einem Werkzeug oder einer Datenquelle. Context Engineering regelt, was der Agent dort versteht.

In der Praxis gleicht der Aufbau dieser Schicht weniger einem Modell-Upgrade als einem Datenprogramm:

  1. Geben Sie Kennzahlendefinitionen einmal frei, an einer Stelle, und verpflichten Sie Agenten darauf, aus dieser Quelle zu lesen, statt Definitionen je Abfrage neu herzuleiten.
  2. Lösen Sie Entitätsidentität zentral auf über eine kanonische Kunden- oder Produkt-ID, damit jeder systemeigene Identifikator auf einen Datensatz zurückführt.
  3. Protokollieren Sie die Herkunft jeder Agentenantwort, damit ein Finanzteam eine Zahl bis zu der Abfrage und der Tabelle zurückverfolgen kann, die sie erzeugt haben.
  4. Begrenzen Sie, was jeder Agent sieht, auf die Systeme und Rechte, die zu seiner Aufgabe gehören, statt pauschalen Lesezugriff auf den gesamten Bestand zu geben.

Hier zählen auch deterministische Leitplanken. Ein Reasoning-Modell kann nicht verlässlich garantieren, dass ein Bankagent die Identität prüft, bevor er über einen Kontostand spricht. Diese Reihenfolge muss außerhalb des Modells erzwungen werden, in expliziter Workflow-Logik (Salesforce, 2026). Die Lehre gilt allgemein: Was am Verhalten eines Agenten immer stimmen muss, gehört in deterministischen Code, nicht in einen Prompt.

Was das für den Mittelstand bedeutet

Die meisten mittelständischen Unternehmen brauchen für den Anfang keinen vollständigen Datengraphen. Sie brauchen dieselbe Disziplin eine Nummer kleiner: Nehmen Sie die zwei oder drei Kennzahlen, über die Ihr Team tatsächlich streitet, etwa realisierter gegen gebuchten Umsatz oder aktiver Kunde gegen registriertes Konto, schreiben Sie die eine gültige Definition auf und richten Sie jeden KI-Agenten und jede ERP-Integration darauf aus, statt sie eine Definition erraten zu lassen. Dieselbe Vorarbeit leisten wir vor jedem Agentic-AI-Einsatz, den wir für Kunden umsetzen, und sie entscheidet meist darüber, ob ein Agent den Kontakt mit Produktivdaten übersteht oder nach seiner ersten falschen Zahl still abgeschaltet wird.

Wenn Sie ein KI-Agenten-Projekt zuschneiden und wissen wollen, ob Ihre Daten dafür bereit sind, bevor Sie Budget für ein Modell binden, beginnt unser Ansatz genau mit dieser Prüfung. Sprechen Sie mit uns, um zu klären, wo Ihre Kontextlücken liegen, bevor Sie darauf aufbauen.