Qdrant oder Weaviate: Fusionslogik bei Hybrid Search

Für RAG und Produktsuche gibt es zwischen Qdrant und Weaviate keinen pauschalen Sieger: Schon die Fusionsmethode kann dieselben Treffer anders ordnen. Qdrant führt getrennte dichte und sparse Vorabfragen zusammen und bietet dafür RRF oder DBSF; die Qdrant-Dokumentation zu hybriden Abfragen beschreibt beide Verfahren und ihre einstellbaren Vorabfragen. Wer mehrere Suchzweige gezielt kombinieren will, findet hier die entsprechenden Stellschrauben.

Weaviate verbindet Vektorsuche und BM25-Suche, die parallel laufen. Die Weaviate-Dokumentation zur Hybrid Search beschreibt Relative Score Fusion als voreingestellte Methode sowie eine alternative Rangfusion, das Gewicht alpha und eine maximale Vektordistanz. Für die Wahl zählt, welche relevanten Passagen oder Produkte unter vergleichbarer Last oben stehen und welche Ressourcen dafür nötig sind.

Was RRF, DBSF und Relative Score Fusion gewichten

RRF verwendet bei Qdrant die Position eines Treffers in jeder Vorabfrage. Ein Dokument profitiert, wenn es in mehreren Listen weit oben steht; ob sein ursprünglicher Score knapp oder deutlich vor dem nächsten liegt, bleibt unberücksichtigt. Das macht Rangpositionen zu einer gemeinsamen Grundlage, wenn dichte und sparse Scores verschiedene Skalen haben. Qdrants RRF lässt außerdem Gewichte für die Suchzweige und die Konstante k einstellen.

DBSF erhält die Information über Scoreabstände. Qdrant berechnet für die zurückgegebenen Treffer jedes Suchzweigs Mittelwert und Standardabweichung, normalisiert die Scores anhand dieser Verteilung und addiert sie. Ein großer Vorsprung innerhalb einer Liste kann damit im Gesamtranking stärker wirken als bei RRF. Die Verteilung entsteht allerdings aus den jeweiligen Kandidaten: Eine andere Vorabfragegrenze oder ein Ausreißer kann auch die normalisierten Werte verändern.

Weaviates Relative Score Fusion setzt den höchsten Score jedes Suchzweigs auf eins und den niedrigsten auf null; die übrigen Werte behalten ihre relativen Abstände dazwischen. Alpha bestimmt, wie viel die Vektorsuche gegenüber BM25 zur Kombination beiträgt. Diese Normierung folgt den Endpunkten der Trefferliste, während DBSF Mittelwert und Streuung verwendet. Weaviates Rangfusion berücksichtigt ebenfalls Positionen statt ursprünglicher Scoreabstände; daraus folgt noch keine identische Rangliste zu Qdrants RRF.

Dasselbe Beispiel führt zu drei Rangfolgen

Ein ausdrücklich hypothetisches Beispiel isoliert den Effekt der Fusion. Vier Dokumente A, B, C und D erhalten in der dichten Suche der Reihe nach die Scores 0,90, 0,05, 0,15 und 0,50. Die lexikalische Suche liefert für dieselben Dokumente 15, 85, 83 und 10. In beiden Listen bedeutet ein höherer Wert einen besseren Treffer; alle vier Dokumente gelangen in beide Kandidatenlisten. Für Weaviate ist alpha auf 0,5 gesetzt, für Qdrants RRF gelten gleiche Zweiggewichte und die voreingestellte Konstante k von 2. Diese Zahlen sind Rechenwerte, keine Messung der Datenbanken.

Die dichte Rangfolge lautet A–D–C–B, die lexikalische B–C–A–D. Qdrants RRF ergibt A–B–C–D: A sammelt Rangbeiträge aus beiden Listen, und B profitiert von seinem lexikalischen Spitzenplatz. DBSF ergibt A–C–B–D. C rückt vor B, weil sein etwas geringerer lexikalischer Score mit einem besseren dichten Score zusammentrifft, sobald beide Verteilungen normalisiert sind.

Weaviates Relative Score Fusion ergibt unter den genannten Annahmen C–A–B–D. B und C liegen lexikalisch eng beieinander; C gewinnt nach der Normierung durch seinen besseren dichten Score. Damit kann ein Wechsel der Fusionsmethode bereits den ersten Treffer verändern, obwohl Dokumente und Ausgangsscores gleich bleiben. Welche dieser Reihenfolgen besser ist, hängt von der Suchaufgabe ab: Bei einer Artikelkennung kann die exakte Übereinstimmung entscheidend sein, bei einer RAG-Frage der Inhalt der gefundenen Passage.

Was der veröffentlichte Benchmark aussagt

Eine empirische Untersuchung zur ANN-Suche vergleicht sieben Systeme, darunter Qdrant und Weaviate, auf sechs Datensätzen mit insgesamt mehr als vier Millionen Vektoren. Die Datensätze umfassen SIFT1M, DEEP1M, GIST1M, GloVe, MS MARCO und synthetische Zufallsdaten. Erfasst werden unter anderem Retrieval-Qualität, Latenz, Durchsatz, Indexaufbau und Ressourcenverbrauch. Die Systeme liefen mit Standardkonfigurationen statt mit einer umfassenden Abstimmung auf jeden Datensatz.

Auf SIFT1M erzielte Weaviate in dieser Untersuchung den höheren Recall, Qdrant die niedrigere mediane Abfragelatenz unter den vollständigen Datenbanksystemen. Das sind Ergebnisse für die getestete Approximate-Nearest-Neighbor-Suche und ihre Konfigurationen. Sie messen weder die Rangfolge aus dichten und lexikalischen Treffern noch die Kosten einer vollständigen Hybrid-Abfrage. Wer daraus einen allgemeinen Hybrid-Sieger ableitet, vermischt unterschiedliche Aufgaben.

Ein vergleichbarer Hybrid-Test braucht denselben Dokumentbestand, dieselben Anfragen und dieselben Urteile darüber, welche Treffer relevant sind. Embedding-Modell, Textaufbereitung, Filter, Ergebniszahl und Kandidatengrenzen müssen feststehen, damit die Fusion nicht für Unterschiede im Eingangsmaterial verantwortlich gemacht wird. Für RAG ist relevant, ob die benötigte Passage im tatsächlich an das Sprachmodell übergebenen Ausschnitt erscheint. Bei Produktsuche kommt hinzu, ob präzise Kennungen und Bezeichnungen gegenüber bloß thematisch ähnlichen Produkten angemessen platziert werden.

Zur Trefferqualität gehören deshalb Recall und die Position relevanter Ergebnisse; zur Leistung gehören Latenz unter gleicher Last und der Ressourcenbedarf. Auch Indexaufbau und Aktualisierungen verdienen einen Platz im Vergleich, wenn der Bestand häufig wechselt. Eine kürzere Abfragezeit allein hilft wenig, falls die Anwendung dafür benötigte Treffer verliert. Umgekehrt kann ein kleiner Qualitätsgewinn teuer werden, wenn er erst mit deutlich mehr Kandidaten und längeren Antwortzeiten entsteht.

Wo die Unterschiede im Betrieb ankommen

Qdrant kann mehrere benannte Repräsentationen am selben Datenpunkt speichern. Die Qdrant-Anleitung mit Buchsuche verwendet einen dichten Vektor für Beschreibungen und einen sparse Vektor für ISBN-Suchen; beide werden über Vorabfragen in einer Hybrid-Abfrage genutzt. Bei der Indexpflege müssen diese Repräsentationen zum selben Buch gehören und bei Änderungen gemeinsam aktuell bleiben. Getrennte Vorabfragen erlauben unterschiedliche Kandidatengrenzen und weitere Suchstufen, schaffen aber zusätzliche Einstellungen für den Betrieb.

Bei Weaviate stehen für die beschriebene Hybrid-Abfrage die Gewichtung von Vektorsuche und BM25 sowie die Fusionsmethode im Vordergrund. Alpha sollte ausdrücklich gesetzt werden, wenn das Verhältnis beider Sucharten wichtig ist: Welche Gewichtung ohne Angabe wirksam wird, kann vom Client und der Serverversion abhängen. Auch die BM25-Seite lässt sich über Suchfelder und Suchoperatoren beeinflussen. Ein Vergleich, der nur alpha variiert, erfasst daher nicht jede mögliche Änderung der lexikalischen Treffer.

Die maximale Vektordistanz bei Weaviate setzt eine zusätzliche Grenze für den Vektoranteil. Ein lexikalisch starker Treffer kann dadurch aus dem hybriden Ergebnis fallen, wenn er semantisch zu weit entfernt ist. Für RAG kann eine solche Grenze unerwünschte Passagen ausschließen; bei einer Produktsuche kann sie eine exakt passende Kennung verdrängen. Die Folge hängt von den Anfragen und den gesetzten Werten ab und gehört deshalb in denselben Qualitätstest wie die Fusion.

Welche Wahl sich daraus ableiten lässt

Qdrant liegt nahe, wenn getrennt steuerbare Retrieval-Zweige und die Wahl zwischen Rang- und verteilungsbasierter Fusion für die Anwendung zentral sind. Weaviate bietet einen direkten Weg, Vektorsuche und BM25 mit festgelegtem Gewicht zu verbinden; Relative Score Fusion erhält dabei Abstände innerhalb der beiden Trefferlisten. Diese Eigenschaften beschreiben Steuerungsmöglichkeiten, keine allgemeine Leistungsrangliste.

Die Entscheidung für eine konkrete RAG- oder Produktsuche fällt anhand derselben relevanzbewerteten Anfragen in beiden Systemen. Erst wenn die benötigten Treffer bei vergleichbaren Einstellungen erreicht werden, lassen sich Latenz, Speicherbedarf und Aufwand für Indexpflege sinnvoll gegenüberstellen. Gerade weil die Fusion den obersten Treffer verändern kann, ist ihre Wirkung auf die eigene Rangliste ein Teil der Auswahlentscheidung.

Lesen Sie auch: