-- Căutare hibridă simplă în pgvector: filtrare după utilizator + similaritate cosinus
SELECT
id,
content,
1 - (embedding <=> '[0.012, -0.023, 0.045, ...]'::vector) AS similarity
FROM documents
WHERE user_id = 'usr_123'
AND is_published = true
ORDER BY embedding <=> '[0.012, -0.023, 0.045, ...]'::vector
LIMIT 5;Toți vrem să legăm un LLM la date proprii printr-un RAG rapid fără să aruncăm 70$/lună pe un cluster administrat de Pinecone. Am testat pgvector, Chroma și Qdrant pe un side-project cu vreo 45.000 de chunks de text (embeddings generate cu text-embedding-3-small, 1536 dimensiuni). Diferențele reale nu țin de milisecundele de latență din benchmark-uri sintetice, ci de cât te chinui cu infrastructura la 2 noaptea.
Chroma: Excelent pentru Jupyter, periculos în producție
Chroma e prima alegere a oricărui tutorial de pe net. Rulează in-process, îl instalezi cu un simplu pip install chromadb și în cinci minute ai semantic search funcțional într-un notebook Python. Nu ai nevoie de Docker, nu ai nevoie de credențiale.
Problema apare când vrei să ieși din faza de prototip. În modul server (client-server), Chroma mi-a dat bătăi de cap serioase pe un VPS de 4GB RAM. Gestionarea memoriei e imprevizibilă, iar la un moment dat procesul s-a blocat complet când am încercat să reindexez 20.000 de vectori dintr-o bucată. E o unealtă excelentă de testare locală, dar nu aș construi un produs pe ea dacă nu vrei să repornești containerul săptămânal.
pgvector: Fără servicii extra dacă ai deja Postgres
Dacă proiectul tău folosește deja PostgreSQL pe Supabase, Neon sau pe un VPS propriu, extensia pgvector e probabil cea mai pragmatică alegere. Cel mai mare avantaj e că scapi de sincronizarea a două baze de date distincte. Nu trebuie să ții userii și articolele în Postgres și ID-urile vectorilor într-un alt storage.
Filtrarea metadata este nativă și folosește puterea completă a SQL-ului (JOIN-uri, clauze WHERE complexe).
Există însă un trade-off major: resursele. Dacă folosești index HNSW pentru căutare rapidă, construirea indexului pe un set mare de date mănâncă mult RAM și CPU. Pe un server slab (1 vCPU, 1GB RAM pe o instanță gratuită), indexarea a 45.000 de vectori mi-a dus memoria în 98% și am luat Out-Of-Memory. Dacă ai sub 20.000 de vectori, poți rula lejer chiar și fără index (exact nearest neighbor), cu latențe de sub 30ms.
Qdrant: Motorul dedicat cel mai bine gândit
Qdrant e scris în Rust și se simte. Consumul de memorie este incredibil de stabil, iar payload filtering-ul (filtrarea pe câmpuri înainte de calculul similarității) funcționează impecabil, spre deosebire de alte soluții care calculează vecinii și abia apoi aplică filtrele.
Qdrant Cloud oferă un cluster gratuit permanent de 1GB memorie. Cu cuantizare scalară (scalar quantization) activată, în acel gigaoctet gratuit am putut înghesui lejer peste 80.000 de vectori OpenAI de 1536 de dimensiuni, fără să plătesc un leu. Dezavantajul? Este încă un serviciu separat de administrat, cu propriul client SDK și propria logică de backup.
Concluzia mea
Regula după care mă ghidez acum e simplă:
- Ai deja Postgres în stack și sub 50k documente? Folosește pgvector și evită complexitatea inutilă.
- Vrei RAG pe un volum serios de date cu bugete zero? Mergi pe Qdrant (local în Docker sau clusterul free).
- Faci un script rapid sau un MVP de hackathon în Python? Chroma e ok pentru primul weekend, dar pregătește-te de migrare.
Voi ce folosiți în proiectele personale când vreți să țineți costurile la zero?