Kontextfenster fassen heute rund eine Million Tokens, manche zehn Millionen. Doch mit jedem zusätzlichen Token sinkt die Leistung, bei allen Modellen. Lange Kontextdateien wie CLAUDE.md oder AGENTS.md, volle Memory-Dateien und überflüssige Regeln kosten deshalb doppelt: Tokens und Intelligenz. Context Engineering heißt, nur das in den Kontext zu geben, was jetzt zählt. Genau dafür ist Hebby gebaut.
Millionen Tokens. Und trotzdem vergesslich.
Die führenden Modelle von Anthropic, OpenAI und Google verarbeiten heute rund eine Million Tokens auf einmal, einzelne Modelle sogar zehn Millionen. Das sind ganze Codebasen, Bücherregale, monatelange Chatverläufe. Die naheliegende Idee: einfach alles hineinkippen.
Das funktioniert nicht. Ein Kontextfenster ist ein Fassungsvermögen, kein Leistungsversprechen. Was hineinpasst, wird noch lange nicht gut genutzt.
Was die Forschung zeigt
- Jedes Token kostet Leistung. In einer Untersuchung von 18 führenden Modellen sank die Leistung mit wachsender Eingabelänge bei ausnahmslos allen. Selbst bei einfachsten Aufgaben.
- Schon bei kleinen Mengen. In einem anspruchsvollen Test fielen 11 von 13 Modellen bei gerade einmal 32.000 Tokens auf die Hälfte ihrer Leistung oder darunter. Das sind drei Prozent eines Millionen-Fensters.
- Fokus schlägt Fülle. Bekommen Modelle nur die relevanten Teile eines Gesprächsverlaufs statt des ganzen, antworten sie deutlich besser. Bei jeder getesteten Modellfamilie.
- Die Mitte geht verloren. Was mitten in einem langen Kontext steht, nutzen Modelle schlechter als das, was am Anfang oder Ende steht.
Die Fachwelt nennt das Context Rot: Der Kontext „verrottet“, je voller er wird. Anthropic spricht von einem Aufmerksamkeitsbudget, das jedes zusätzliche Token aufzehrt.
Ihr Agent wird nicht klüger, weil er mehr liest. Er wird klüger, weil er das Richtige liest.
Wie beim Menschen: Arbeitsgedächtnis ist knapp
Unser Arbeitsgedächtnis hält nur wenige Dinge gleichzeitig präsent, alles darüber hinaus verdrängt sich gegenseitig. Das Kontextfenster ist das Arbeitsgedächtnis der KI und stößt auf dieselbe Grenze. Die Lösung ist dieselbe: schlankes Arbeitsgedächtnis, starkes Langzeitgedächtnis.
Kontextdateien: der stille Leistungskiller
CLAUDE.md, AGENTS.md, GEMINI.md, MEMORY.md: Jeder Agent hat seine Kontextdateien. Sie werden bei jeder Sitzung geladen und stehen bei jedem einzelnen Aufruf im Kontext. Mit der Zeit landet alles darin.
- Sie wachsen. Jede Zeile kostet bei jedem Aufruf Tokens.
- Sie widersprechen sich. Alte und neue Regeln stehen nebeneinander.
- Sie lenken ab. Für die aktuelle Aufgabe zählt ein Bruchteil. Der Rest ist Rauschen und frisst Aufmerksamkeit.
- Sie wollen gepflegt werden. Aufräumen wird zur Daueraufgabe.
Und weil die Dateien irgendwann nicht mehr reichen, liest der Agent ganze Logs und Notizen neu ein, um sich zu erinnern. Das fällt kaum auf, kostet aber massiv.
Zu viele Regeln machen Modelle schlechter
Auch Anweisungen sind Kontext. Und auch hier gilt: mehr ist nicht besser.
- Regeln gehen unter. Bei 500 gleichzeitigen Anweisungen befolgen selbst die besten Modelle nur noch rund zwei Drittel davon. Frühe Regeln werden bevorzugt, späte übersehen.
- Strenge schadet. Aktuelle Modelle reagieren so genau auf ihre Anweisungen, dass Anthropic ausdrücklich rät, harte Formulierungen wie „KRITISCH: Du MUSST …“ zurückzunehmen. Sie führen sonst zu Übereifer statt zu besseren Ergebnissen.
- Vorschriften veralten. Klügere Modelle brauchen weniger Vorgaben. Wer ihnen vorschreibt, was sie längst selbst am besten können, ersetzt ihr Urteil durch eine Regel von gestern.
Weil sich Modelle rasend schnell verbessern, wächst dieses Problem mit jedem Update. Die hilfreiche Anweisung von gestern ist das Korsett von heute.
Context Engineering: das Richtige, im richtigen Moment
Die Antwort heißt Context Engineering. Anthropic bringt das Ziel auf den Punkt: die kleinstmögliche Menge an Tokens mit dem größten Informationsgehalt. Für ein Gedächtnis heißt das:
- Wissen statt Vorschriften. Was das Modell nicht wissen kann: Ihre Entscheidungen, Projekte, Erfahrungen. Nicht, wie es seine Arbeit machen soll.
- Nur bei Bedarf. Erinnerungen kommen, wenn sie gebraucht werden. Nicht pauschal bei jedem Aufruf.
- Verdichtet. Eine präzise Erinnerung schlägt drei Absätze Notiz.
- Aktuell. Überholtes verschwindet, bevor es Widersprüche erzeugt.
So hält Hebby den Kontext schlank
Hebby ist genau nach diesen Prinzipien gebaut. Statt wachsender Kontextdateien liefert Hebby zu jeder Anfrage nur die wenigen Erinnerungen, die jetzt zählen, und denkt voraus, was gleich gebraucht wird. Überholtes räumt es von selbst ab.
Hebby schreibt Ihrem Modell nichts vor, was es selbst besser kann. Und lernt das Modell dazu, zieht Hebby automatisch mit. Das Ergebnis: Ihre Kontextdateien schrumpfen auf ein, zwei Sätze, der Kontext bleibt schlank und Ihr Agent konzentriert. Klüger allein durch Weglassen. Was das in Tokens bedeutet, zeigen unsere Messungen.
Hebby Memories: das Second Brain für Claude Code, Codex & Co. Lernt mit, denkt voraus, vergisst nichts Wichtiges. Early Access sichern →
Häufige Fragen
Was ist Context Engineering?
Context Engineering bedeutet, einem KI-Modell genau den Kontext zu geben, den die aktuelle Aufgabe braucht, und nicht mehr. Es geht über Prompt Engineering hinaus: Gemeint ist alles, was im Kontextfenster landet, also Anweisungen, Dateien, Verlauf, Werkzeugergebnisse und Erinnerungen.
Was ist Context Rot?
Context Rot beschreibt, dass die Leistung von Sprachmodellen nachlässt, je mehr Tokens im Kontext stehen. Das gilt für alle getesteten Modelle und setzt lange vor dem Ende des Kontextfensters ein.
Wie lang sollten CLAUDE.md und AGENTS.md sein?
So kurz wie möglich. Hinein gehört nur, was ausnahmslos in jeder Sitzung gelten muss. Mit einem Gedächtnis wie Hebby reichen meist ein, zwei Sätze. Alles andere kommt bei Bedarf in den Kontext.
Machen mehr Anweisungen ein Modell zuverlässiger?
Nein. Je mehr Regeln gleichzeitig gelten, desto mehr davon werden übersehen. Und bei aktuellen Modellen führen übertrieben strenge Anweisungen eher zu Fehlverhalten als zu besseren Ergebnissen.