-- Setup rapid pentru pgvector cu index HNSW pe cosine distance
CREATE EXTENSION IF NOT EXISTS vector;
CREATE TABLE documents (
id BIGSERIAL PRIMARY KEY,
content TEXT NOT NULL,
metadata JSONB DEFAULT '{}'::jsonb,
embedding vector(1536)
);
-- Index HNSW optimizat pentru căutare rapidă
CREATE INDEX ON documents
USING hnsw (embedding vector_cosine_ops)
WITH (m = 16, ef_construction = 64);
-- Căutare semantice pe top 5 rezultate
SELECT id, content, 1 - (embedding <=> $1) AS similarity
FROM documents
ORDER BY embedding <=> $1
LIMIT 5;Toată lumea vrea să bage RAG într-un side-project, dar când ajungi la baza de date vectorială te lovești rapid de costuri absurde. Pinecone devine scump după ce ieși din free tier, iar Weaviate administrat în cloud sare de bugetul unui proiect de weekend. Am testat trei variante complet gratuite — pgvector, Chroma și Qdrant — pe o bază de 45.000 de bucăți de text indexate cu text-embedding-3-small.
pgvector: soluția evidentă dacă ai deja Postgres
Dacă ai deja o instanță de PostgreSQL (pe Supabase, Neon sau pe un VPS propriu), extensia pgvector este prima opțiune la care merită să te uiți. Nu adaugi încă un serviciu în stack, nu ai probleme de sincronizare între datele relaționale și ID-urile vectorilor, iar tranzacțiile funcționează normal.
La 45k de vectori de 1536 de dimensiuni, un index HNSW (hnsw (embedding vector_cosine_ops)) a mâncat vreo 320 MB de memorie. Latența pe căutare a stat sub 12ms pe un VPS Hetzner de 4 euro.
Trade-off-ul sincer: indexarea e înceată și consumă mult RAM la construire. Am bușit un container cu 1GB RAM când am încercat să reconstruiesc indexul fără să cresc maintenance_work_mem. Dacă sari de 200.000 de vectori pe mașini mici, Postgres începe să gâfâie la căutări paralele.
Chroma: minunat pentru hackathon, dureros pe server
Chroma este probabil cel mai simplu de pornit dacă scrii Python. Ai nevoie de exact cinci linii de cod și rulează in-memory sau salvând pe disc prin SQLite și DuckDB.
L-am folosit pentru două prototipuri rapide. Pentru rulat local pe laptop, e genial: nu ridici Docker, nu configurezi rețele, totul stă într-un director din proiect.
Problema apare când vrei să-l expui ca microserviciu pe un server. Modul client/server din Chroma e destul de fragil, autentificarea out-of-the-box e rudimentară, iar gestionarea concurenței la scriere pe SQLite mi-a dat erori de lock când am avut doi worker-i paraleli care băgau embeddings. Pentru producție, chiar și pe un side-project public, eu l-am abandonat.
Qdrant: motorul dedicat cel mai curat
Qdrant e scris în Rust și se vede imediat la consumul de resurse. Pe același set de 45k vectori, a pornit cu 60 MB RAM și a urcat la vreo 190 MB cu tot cu indexul HNSW în memorie.
Ce m-a convins la el este filtrarea pe metadata. La pgvector, dacă pui un WHERE user_id = 12 combinat cu vector search pe un dataset mai mare, planner-ul SQL uneori alege strategii proaste și latența sare de 150ms. Qdrant face payload filtering direct în timpul scanării grafului HNSW, iar căutările filtrate răspund constant în 4-8ms.
În plus, free tier-ul lor din cloud oferă un cluster de 1GB RAM gratuit pe viață, fără să-ți ceară card. E mai mult decât suficient pentru 50k-80k vectori mici.
Ce alegi până la urmă?
Regula mea după câteva proiecte e simplă: dacă ai deja Postgres în proiect și sub 100k vectori, mergi pe pgvector ca să nu complici arhitectura aiurea. Dacă ai nevoie de filtre complexe pe metadate, vrei performanță stabilă la căutări rapide sau vrei o instanță cloud dedicată fără bani, Qdrant e alegerea corectă. Chroma lasă-l doar pentru notebook-uri de Jupyter și teste pe laptop.
Voi ce folosiți în producție pentru RAG la scară mică?