Vektordatenbanken erklärt: Das Gedächtnis von RAG-Anwendungen
Eine Vektordatenbank speichert Texte als Zahlenreihen, sogenannte Embeddings, und findet zu einer Frage die Abschnitte mit ähnlicher Bedeutung. Sie ist das Herzstück vieler RAG-Anwendungen, die Sprachmodelle mit eigenem Wissen verbinden.
Wie sie funktioniert
- Dokumente werden in Abschnitte geteilt.
- Ein Embedding-Modell wandelt jeden Abschnitt in einen Vektor um.
- Die Datenbank speichert Vektor und Text.
- Bei einer Frage wird auch die Frage umgewandelt; die Datenbank liefert die Abschnitte mit den ähnlichsten Vektoren.
So findet die Suche „Kündigungsfrist“ auch einen Abschnitt, in dem „Vertrag beenden“ steht. Wie Embeddings funktionieren, erklärt Embeddings einfach erklärt.
Welche es gibt
- Erweiterungen bestehender Datenbanken wie pgvector für PostgreSQL: oft die einfachste Wahl, wenn Sie schon eine Datenbank betreiben.
- Spezialisierte Datenbanken wie Qdrant, Weaviate, Milvus oder Chroma, teils als Open Source, teils als Clouddienst.
- Suchdienste mit Vektorsuche, etwa Elasticsearch oder OpenSearch.
Tipp: Kombination mit Stichworten
Reine Bedeutungssuche übersieht manchmal exakte Begriffe wie Artikelnummern. Viele Anwendungen kombinieren deshalb Vektorsuche mit klassischer Stichwortsuche (hybride Suche).
Kosten
Für tausende Dokumente reichen kleine Server oder kostenlose Stufen. Die Embeddings selbst kosten meist nur wenige Cent je Million Tokens. Den Gesamtüberblick gibt der RAG-Kostenrechner.
Erstellt mit Unterstützung von KI, geprüft und redaktionell verantwortet von Leon Blatz. Allgemeine Information, keine Rechts-, Steuer- oder Finanzberatung.