Warum fragt unser KI-Assistent Kunden immer wieder dasselbe, was er sie letzte Woche schon gefragt hat?

Weil die API eines Sprachmodells zustandslos ist. Jeder Aufruf beginnt bei null, und alles, woran sich der Agent zu erinnern scheint, ist Text, den Ihre Anwendung noch einmal geschickt hat. Entscheidet in Ihrem Entwurf nichts darüber, was geschickt wird, lautet die Antwort: nichts, und der Assistent beginnt von vorn. Das ist das ganze Rätsel. Der Rest dieses Beitrags sind die Anschlussfragen, in der Reihenfolge, in der Käufer sie üblicherweise stellen.

Reicht nicht einfach ein größeres Kontextfenster?

Sie können das machen, und es kostet Sie doppelt. Ein größeres Fenster lässt Sie mehr Verlauf erneut senden, aber es ändert nichts daran, wer entscheidet, was erneut gesendet wird, und Sie zahlen in jeder Runde für jedes Token. Ein Gespräch, das vierzig Runden gelaufen ist, geht in Runde einundvierzig vollständig erneut hinaus.

Jenseits einer bestimmten Länge scheitert es auch an der Qualität. Die eine Entscheidung, auf die es ankommt, sitzt zwischen tausenden Token Geplauder, und das Modell wiegt alles mit. Ein Kontextfenster ist ein Schreibtisch und kein Gedächtnis. Gedächtnis ist die Disziplin, zu wählen, was wieder auf den Schreibtisch kommt.

Was darf der Agent sich merken?

Weniger, als die Anbieter vorschlagen. Das meiste Anbietermaterial dreht sich um Speichern und Abrufen: welche Vektordatenbank, welches Embedding, wie man semantische und Stichworttreffer verschmilzt. Diese Ebene ist inzwischen austauschbare Infrastruktur, nehmen Sie also eine, die Ihr Team betreiben kann. Was darüber entscheidet, ob der Agent mit der Zeit besser oder schlechter wird, sitzt davor, nämlich in dem, was geschrieben werden darf.

Ein Agent, der alles speichert, baut eine Halde. Der Abruf muss dann den genehmigten Rabatt in zehntausend fast gleichen Gesprächsfetzen finden, und Ähnlichkeitssuche ist schlecht darin, eine Entscheidung von einer Diskussion über eine Entscheidung zu unterscheiden. Wir halten ein automatisches Gedächtnis, das alles schreibt, für die falsche Voreinstellung in jedem Geschäftsablauf. Schreibvorgänge gehören kuratiert: bestätigte Tatsachen und ausdrückliche Entscheidungen, jede mit dem Namen dessen, der sie bestätigt hat.

Der Name ist wichtig. „Der Kunde braucht eine Rückerstattung“ heißt eine Sache, wenn der Kunde es gesagt hat, und eine andere, wenn ein planender Agent es aus einem Tonfall geschlossen hat. Landen beide als dieselbe Art Datensatz im Speicher, wird der Agent später seine eigene Vermutung für etwas halten, das ihm ein Mensch gesagt hat. Halten Sie Schlussfolgerungen in einer eigenen Klasse, und befördern Sie sie nie zur Tatsache, ohne dass ein Mensch oder ein führendes System sie bestätigt.

Wie viele Arten von Gedächtnis brauchen wir?

Zwei. Anbieterdiagramme teilen Gedächtnis in vier oder fünf Arten: im Kontext, semantisch, episodisch, prozedural, manchmal mehr. Für einen Einsatz im Unternehmen leisten zwei Unterscheidungen die ganze Arbeit.

Die eine ist der Arbeitskontext, das laufende Gespräch, das verschwindet, wenn die Sitzung endet, und das soll es auch. Die andere ist ein Journal: eine kleine, kuratierte, zuordenbare Aufzeichnung dessen, was bestätigt und entschieden wurde, zugeschnitten auf einen Nutzer, ein Konto oder die ganze Organisation. Semantisches und episodisches Gedächtnis sind Abrufstrategien über diesem Journal. Prozedurales Gedächtnis, das „wie wir es hier machen“, ist Konfiguration, halten Sie es also in der Versionsverwaltung mit einem Verantwortlichen und nicht als etwas, das ein Agent lernt und niemand lesen kann.

Gezielter Abruf ist zudem günstiger. Mem0, ein Anbieter von Gedächtnislösungen, berichtet in seinem eigenen Benchmark von 2026, im Mittel unter 7.000 Token pro Abfrage zu brauchen, gegen rund 26.000, wenn man den vollen Verlauf in den Kontext stopft (Mem0). Die Autoren verkaufen das Produkt, lesen Sie das also als Anbieteraussage. Die Richtung folgt aus der Rechnung oben.

Soll er sich merken, was unser ERP schon weiß?

Nein. In einem Unternehmen, das Odoo oder ERPNext betreibt, was ThinqHub implementiert, hält das führende System den Kunden, die Zahlungsbedingungen, die offenen Aufträge und das Kreditlimit bereits. Diese Dinge in das Gedächtnis eines Agenten zu kopieren erzeugt eine zweite Fassung der Wahrheit, die in dem Moment zu veralten beginnt, in dem jemand das Original bearbeitet.

Der Agent sollte sie aus dem ERP lesen, wenn er sie braucht, über einen berechtigten Aufruf, und die Antwort als aktuell behandeln. Was das ERP nicht hält, ist das, was nur aus Gesprächen kam: die Ausnahme, der jemand per Nachricht zugestimmt hat, die Vorliebe, die ein Einkäufer geäußert hat, der Grund, aus dem eine Lieferung verschoben wurde. Das gehört in das Journal, und die Grenze dort zu ziehen hält den Speicher klein, günstiger im Betrieb und leichter prüfbar.

Können wir es löschen, wenn jemand darum bittet?

Sie müssen es können. Ein Gedächtnisspeicher enthält personenbezogene und geschäftliche Daten über identifizierbare Menschen und Konten, was ihn zu einem Gegenstand des Datenschutzes macht, wie das Produkt ihn auch nennt. Können Sie die Einträge einer einzelnen Person auf Anfrage nicht löschen und Einträge nicht nach Geltungsbereich und Alter verfallen lassen, haben Sie eine Haftung gebaut, die eine Prüfung finden wird. Welche Regeln für Sie gelten, hängt davon ab, wo Sie tätig sind, und das sollte eine Anwältin beantworten und kein Blogbeitrag.

Die Reihenfolge der Arbeit folgt daraus. Entscheiden Sie zuerst den Geltungsbereich jedes Gedächtnisses: Nutzer, Agent, Sitzung oder Organisation. Bereiche zu mischen ist der Weg, auf dem das Detail eines Kunden im Gespräch eines anderen auftaucht. Entscheiden Sie als Nächstes den Verantwortlichen und den Löschweg. Erst dann entscheiden Sie, was geschrieben wird. Unser Beitrag zu Context Engineering behandelt das Nachbarproblem, was ein Agent überhaupt sehen darf.

Wo fangen wir an?

Nehmen Sie einen Ablauf, in dem Menschen sich gegenüber Ihrem Agenten derzeit wiederholen. Listen Sie die fünf Tatsachen auf, die er hätte mitnehmen sollen. Schreiben Sie die, mit Zuordnung, und nichts weiter. Messen Sie, ob die Wiederholung aufhört. Wenn ja, haben Sie ein Gedächtnissystem. Wenn Sie die fünf Tatsachen nicht nennen können, hätte eine Datenbank ohnehin nicht geholfen.

Agenten, die laufen und Kunden dennoch von vorn beginnen lassen, haben meist eine Architekturlücke und keine Modellgrenze, und es ist günstiger, das zu prüfen, als mehr Automatisierung darauf zu setzen. Unser Vorgehen beginnt mit dieser Prüfung, und unsere KI-Services decken den Bau ab. Um durchzusprechen, was Ihre Agenten sich merken sollten, melden Sie sich bei uns.