Ein Reranker sortiert die Treffer einer Suche ein zweites Mal, diesmal gründlich: Er liest Frage und Treffer gemeinsam und bewertet, wie gut sie zusammenpassen. Das macht RAG-Systeme deutlich treffsicherer, kostet aber bei jeder Anfrage Zeit und Rechenleistung. Ein Gedächtnis, das aus der Nutzung lernt, sortiert von selbst immer besser und braucht den Reranker immer seltener.
Was ist ein Reranker?
Ein Reranker ist die zweite Stufe einer KI-Suche. Die erste Stufe, meist eine Vektor- oder Stichwortsuche, holt in Millisekunden ein paar Dutzend Kandidaten aus einem großen Bestand. Schnell, aber grob. Dann kommt der Reranker: Er nimmt sich jeden Kandidaten einzeln vor, liest ihn zusammen mit der Frage und vergibt eine Punktzahl. Nur die besten landen im Kontext des Sprachmodells.
Man kann es sich vorstellen wie eine Bewerbung: Die erste Stufe sortiert nach Stichworten im Lebenslauf. Der Reranker führt das Gespräch.
Bi-Encoder und Cross-Encoder
- Bi-Encoder (erste Stufe): Frage und Text werden getrennt in Vektoren übersetzt. Die Texte lassen sich vorab berechnen, die Suche ist blitzschnell, auch in Millionen Einträgen. Feine Zusammenhänge zwischen Frage und Text bleiben aber auf der Strecke.
- Cross-Encoder (Reranker): Frage und Text gehen gemeinsam durch das Modell. Das ist deutlich genauer, muss aber für jede Anfrage und jeden Kandidaten neu gerechnet werden. Darum lohnt es sich nur für eine kleine Vorauswahl.
Diese Arbeitsteilung, erst breit und schnell, dann schmal und genau, hat sich seit 2019 als Standard der modernen Textsuche durchgesetzt.
Was Reranking bringt
Viel. Anthropic hat verschiedene Verfahren für RAG-Systeme systematisch verglichen. Ein zusätzlicher Reranking-Schritt senkte die Quote der Suchen, bei denen der relevante Abschnitt fehlte, noch einmal deutlich: insgesamt um 67 Prozent, von 5,7 auf 1,9 Prozent. Das Fazit dort: Reranking ist besser als kein Reranking.
Und weil nur die besten Treffer weitergereicht werden, bleibt der Kontext schlank. Ein Gewinn, denn volle Kontexte machen Modelle schlechter.
Der Haken: jede Anfrage kostet
Ein Reranker arbeitet bei jeder einzelnen Anfrage von vorn. Das kostet:
- Zeit: Ein zusätzlicher Rechenschritt verlängert jede Suche.
- Geld oder Rechenleistung: Gehostete Reranker werden pro Anfrage abgerechnet, eigene brauchen Rechenkraft. Nutzt man ein Sprachmodell als Reranker, kostet jede Bewertung Tokens.
- Ein Zielkonflikt: Mehr Kandidaten bewerten heißt bessere Treffer, aber mehr Wartezeit und Kosten.
Vor allem aber: Ein Reranker lernt nichts. Er bewertet morgen dieselbe Frage genauso wie heute, egal ob seine Auswahl gestern geholfen hat oder nicht.
Reranker oder lernendes Gedächtnis?
Für eine statische Dokumentensammlung ist ein Reranker die richtige Wahl. Ein KI-Gedächtnis ist aber nicht statisch. Es sieht täglich, welche Erinnerungen Ihrem Agenten tatsächlich geholfen haben und welche nicht. Diese Erfahrung ist mehr wert als jede Momentbewertung.
Ein Reranker urteilt jedes Mal neu. Ein Gedächtnis erinnert sich, was gestimmt hat.
Hebby: Reranker an Bord, kaum gebraucht
Hebby bringt einen eingebauten, sparsamen Reranker mit. Doch Hebby ist nicht auf ihn angewiesen. Nach dem Prinzip des Hebbschen Lernens stärkt es die Verbindungen zwischen Erinnerungen, die gemeinsam gebraucht werden, und lernt so selbst, was zu welcher Arbeit gehört. Je länger Hebby läuft, desto treffsicherer sortiert es von allein und desto seltener kommt der Reranker zum Einsatz. Bessere Treffer, weniger Wartezeit, weniger Kosten.
Hebby Memories: das Second Brain für Claude Code, Codex & Co. Lernt mit, denkt voraus, vergisst nichts Wichtiges. Early Access sichern →
Häufige Fragen
Was ist ein Reranker?
Ein Reranker ist ein Modell, das die Treffer einer ersten, schnellen Suche neu sortiert. Er bewertet jeden Kandidaten zusammen mit der Frage und reicht nur die relevantesten an das Sprachmodell weiter.
Was ist der Unterschied zwischen Bi-Encoder und Cross-Encoder?
Ein Bi-Encoder übersetzt Frage und Text getrennt in Vektoren und vergleicht sie. Das ist schnell und eignet sich für die Suche in großen Beständen. Ein Cross-Encoder liest Frage und Text gemeinsam. Das ist genauer, aber deutlich langsamer, darum wird er nur auf wenige Kandidaten angewendet, als Reranker.
Brauche ich für RAG einen Reranker?
Für statische Dokumentensammlungen bringt ein Reranker meist spürbar bessere Treffer. Ein Gedächtnis, das aus seiner Nutzung lernt, wie Hebby, sortiert dagegen mit der Zeit von selbst richtig und braucht ihn nur noch selten.