eduardweb.
RAG & EmbeddingsAvansat#rag#ai#postgres#pgvector#embeddings

RAG direct în Postgres: pgvector, indexare HNSW și căutare hibridă cu BM25

De Diana Oprea, 31 oct. 2026 · 20 vizualizări · 2 like-uri

Postat 31 oct. 2026
sql
WITH semantic_search AS (
  SELECT id, ROW_NUMBER() OVER (ORDER BY embedding <=> $1) as rank
  FROM documents
  ORDER BY embedding <=> $1
  LIMIT 40
),
lexical_search AS (
  SELECT id, ROW_NUMBER() OVER (ORDER BY ts_rank_cd(tsv_content, plainto_tsquery('romanian', $2)) DESC) as rank
  FROM documents
  WHERE tsv_content @@ plainto_tsquery('romanian', $2)
  LIMIT 40
)
SELECT 
  COALESCE(s.id, l.id) AS id,
  d.content,
  -- Reciprocal Rank Fusion (k = 60)
  COALESCE(1.0 / (60 + s.rank), 0.0) + 
  COALESCE(1.0 / (60 + l.rank), 0.0) AS rrf_score
FROM semantic_search s
FULL OUTER JOIN lexical_search l ON s.id = l.id
JOIN documents d ON d.id = COALESCE(s.id, l.id)
ORDER BY rrf_score DESC
LIMIT 10;

Dacă aveți deja Postgres în producție, 90% din cazuri nu justifică o bază de date vectorială dedicată. Am migrat recent un pipeline de RAG pe 1.2M de chunks de documentație tehnică și juridică de pe Pinecone direct în baza noastră primară de Postgres 16. Pe lângă faptul că am tăiat vreo $450/lună din costuri de infrastructură, cel mai mare câștig a fost căutarea hibridă adevărată.

Semantic search-ul pur e o capcană în producție. Vă explic de ce.

De ce pică semantic search pe date reale

Embeddings-urile generate de modele precum text-embedding-3-small sunt excelente pentru concepte și similaritate semantică, dar sunt praf când userul caută identificatori exacți, coduri de eroare, numere de articole sau denumiri de funcții. Dacă userul caută „Eroare 4013 la sync”, un vector search îți va aduce rezultate generice despre timeout-uri sau permisiuni, ratând complet documentul care conține exact string-ul „4013”.

Aici intervine Full-Text Search (sau BM25). Avem nevoie de ambele: semantism pentru intenție și lexical search pentru precizie chirurgicală.

Setup: HNSW și TSVector sub același acoperiș

Înainte foloseam indexul ivfflat din pgvector pentru că se construia rapid. Mare greșeală: recall-ul scădea drastic pe măsură ce creșteau datele fără un re-index periodic consumator de resurse. De la versiunea 0.5 a extensiei, mergeți direct pe hnsw. Cu parametrii m = 16 și ef_construction = 64, obținem un p95 de query time sub 18ms pe 1.2 milioane de rânduri.

Pentru lexical search, Postgres nu implementează algoritmul pur BM25 nativ out-of-the-box (există extensia pg_search cu ParadeDB dacă vreți BM25 pur), dar ts_rank_cd combinat cu dicționare custom funcționează surprinzător de bine în 99% din scenarii.

Pentru a combina cele două scoruri complet diferite (distanța cosinus între 0 și 2 vs rank-ul BM25/tsvector care e nelimitat), cea mai fiabilă abordare e Reciprocal Rank Fusion (RRF). În loc să normalizăm scorurile, normalizăm pozițiile din clasamente.

Trade-off-uri de care nu-ți zice nimeni

Pgvector nu e gratuit ca resurse. Un index HNSW de 1.2M de vectori la 1536 dimensiuni ocupă în jur de 3.2 GB de RAM. Dacă indexul nu încape complet în memorie (shared_buffers + cache de OS), IOPS-ul pe disk va exploda și query-urile sar lejer de la 15ms la 600ms.

De asemenea, dacă aveți scrieri masive concurente, construirea indexului HNSW în fundal pune un lock considerabil pe memorie. Pentru volume masive de miliarde de vectori, Milvus sau Qdrant încă au sens. Pentru orice sub 5-10 milioane de înregistrări, Postgres ține fără probleme.

Voi cum îmbinați căutarea lexicală cu cea semantică în producție? Mergeți pe RRF direct în query sau faceți reranking separat în Python cu un cross-encoder?

Răspunsuri 0

Se încarcă răspunsurile…

Loghează-te pentru a răspunde

Doar membrii comunității pot lăsa comentarii.