Bi-Encoder

« Zurück zum Glossar Index

Ein Bi-Encoder ist ein Modell zur semantischen Repräsentation, das Anfrage und Dokument getrennt voneinander in Vektoren (Embeddings) überführt und deren Ähnlichkeit im Vektorraum berechnet. Die Relevanzbewertung erfolgt über Distanzmetriken zwischen zwei unabhängig erzeugten Vektoren. Bi-Encoder sind zentrale Komponenten skalierbarer Vektorsuchsysteme.

Funktionsweise und Einordnung

Ein Bi-Encoder besteht aus zwei identischen oder gewichtsgleichen Encoder-Netzwerken. Beide verarbeiten Texte separat:

Encoder A verarbeitet die Suchanfrage.
Encoder B verarbeitet das Dokument oder einen Chunk.

Der Ablauf:

Transformation von Anfrage und Dokument in jeweils einen Vektor.
Speicherung der Dokumentvektoren in einer Vektordatenbank.
Berechnung der Ähnlichkeit über Kosinus-Ähnlichkeit oder Skalarprodukt.
Ranking nach semantischer Nähe.

Da Dokumente nur einmal encodiert und anschließend gespeichert werden, ist das Verfahren hoch skalierbar.

Im Gegensatz zum Cross-Encoder findet keine gemeinsame Kontextverarbeitung statt. Die Interaktion erfolgt ausschließlich über den Vektorvergleich.

Strategische Bedeutung für SEO und AI-Search

Bi-Encoder sind die Grundlage embedding-basierter Retrieval-Systeme.

Implikationen für Generative Engine Optimization:

Inhalte müssen semantisch klar und kohärent sein.
Eindeutige Entitätsdefinitionen verbessern Vektorstabilität.
Strukturierte Abschnitte erzeugen präzisere Chunk-Embeddings.
Synonyme und thematische Varianten erhöhen Anschlussfähigkeit.

Da Bi-Encoder rein auf Vektordistanz basieren, ist semantische Nähe entscheidend. Oberflächliche Keyword-Optimierung verliert an Bedeutung gegenüber inhaltlicher Präzision.

Sichtbarkeit entsteht durch Nähe im Bedeutungsraum.

Beispiel

Anfrage:
„Was ist semantische Suche?“

Ein Dokument enthält die Formulierung:
„Bedeutungsbasierte Suchsysteme vergleichen Inhalte im Vektorraum.“

Ein Bi-Encoder erzeugt für beide Texte Vektoren mit hoher Ähnlichkeit, obwohl die Wortwahl unterschiedlich ist.

Die Relevanz entsteht durch semantische Repräsentation, nicht durch identische Begriffe.

Häufige Fragen zu Bi-Encoder

Was unterscheidet Bi-Encoder von Cross-Encoder?

Bi-Encoder erzeugen getrennte Embeddings für Anfrage und Dokument. Cross-Encoder analysieren beide Texte gemeinsam im selben Modell. Bi-Encoder sind skalierbarer, Cross-Encoder präziser.

Warum sind Bi-Encoder für große Datenmengen geeignet?

Dokumente werden einmal encodiert und gespeichert. Bei einer Anfrage wird nur deren Vektor berechnet. Dadurch lassen sich Millionen oder Milliarden Dokumente effizient durchsuchen.

Welche Rolle spielen Bi-Encoder in RAG-Systemen?

RAG-Systeme nutzen Bi-Encoder für das initiale Retrieval. Sie identifizieren semantisch relevante Chunks. Anschließend kann ein Re-Ranking-Modell die Auswahl verfeinern.

Beeinflusst Content-Struktur die Leistung eines Bi-Encoders?

Ja, da klare, kohärente Texte stabilere Embeddings erzeugen. Unstrukturierte oder thematisch vermischte Inhalte können diffuse Vektoren erzeugen. Struktur verbessert semantische Präzision.