CREATE EXTENSION IF NOT EXISTS vector;
CREATE TABLE documents (
id BIGSERIAL PRIMARY KEY,
content TEXT NOT NULL,
embedding vector(1536)
);
-- Folosește HNSW pentru latență mică; cosine ops e standard pentru embeddings OpenAI
CREATE INDEX documents_embedding_hnsw_idx
ON documents USING hnsw (embedding vector_cosine_ops)
WITH (m = 16, ef_construction = 64);
-- Căutare top 5 cei mai apropiați vecini
SELECT id, content, 1 - (embedding <=> '[0.012, -0.045, ...]'::vector) AS similarity
FROM documents
ORDER BY embedding <=> '[0.012, -0.045, ...]'::vector
LIMIT 5;Am testat vector databases intensiv în ultimele opt luni pentru două side-project-uri mici cu RAG. Dacă nu vrei să arunci 70 de dolari pe lună pe Pinecone serverless sau să te complici cu clustere Milvus, ai practic trei opțiuni serioase: pgvector, Qdrant și Chroma. Toate par identice în tutoriale, dar se comportă complet diferit când le pui pe un server ieftin.
pgvector: alegerea firească dacă ai deja Postgres
Dacă ai deja Supabase, Neon sau un Postgres pe un VPS de 4 euro la Hetzner, pgvector e prima opțiune logică. Nu mai instalezi alt container, nu mai gestionezi back-up-uri separate și ai tranzacții ACID garantate.
La un proiect cu 45.000 de chunks de text (vectori de 1536 dimensiuni generați cu text-embedding-3-small), o căutare cu index HNSW pe cosine distance mi-a scos constant sub 7ms. E mai mult decât suficient pentru 99% din aplicații.
Trade-off-ul e consumul de RAM la indexare. Am crăpat o instanță cu OOM când am rulat CREATE INDEX pe vreo 110.000 de vectori fără să limitez maintenance_work_mem. Dacă ai tabele mari și server mic, construirea indexului HNSW îți poate bloca baza de date minute bune.
Chroma: comod pentru demo-uri, riscant în producție
Chroma e adorat în tutorialele de LangChain pentru că pornește cu două linii de Python și rulează in-memory sau cu un SQLite chior. Pentru un script local sau explorare în Jupyter Notebook e imbatabil.
Problema apare când vrei să-l pui pe un server într-un container persistent. Consumul de memorie crește ciudat în timp, iar dacă ai mai mulți clienți concurenți, backend-ul lor de SQLite începe să dea lock errors. Versiunile noi pe Rust au mai rezolvat din probleme, dar sincer nu m-a convins la capitolul stabilitate pe termen lung. Pentru un MVP de weekend merge, dar să-l lași pe un VPS nesupravegheat e loterie.
Qdrant: motor dedicat, scris ca la carte
Qdrant e scris în Rust, vine ca un singur binar și consumă infim la idle (undeva la 40MB RAM). Free tier-ul lor cloud oferă un cluster de 1GB permanent, dar varianta self-hosted e adevărata bijuterie.
Unde bate pgvector fără discuție este la payload filtering. Dacă vrei să cauți vectori similari dar condiționați strict de metadata complexă (de exemplu: doar articolele utilizatorului X, scrise după data Y, cu tag-ul Z), Qdrant face filtrarea direct în indexul HNSW. La pgvector, dacă filtrezi după un JSONB nestructurat combinat cu vector similarity, optimizer-ul Postgres o ia razna des și ajunge la un sequential scan dureros.
Minusul la Qdrant? E încă un serviciu pe care trebuie să-l monitorizezi, să-i faci snapshot-uri și să-l legi la CI/CD.
Concluzie
Regula mea după câteva mii de query-uri reale: dacă ai deja Postgres în stack, activează pgvector și rămâi acolo până treci de 200k embeddings. Nu are sens să adaugi complexitate de rețea. Dacă faci un proiect pur AI, fără bază relațională tradițională, ia Qdrant fără să clipești. Chroma lasă-l doar pentru teste pe laptop.
Voi ce folosiți pe bugete de side-project, ați rămas pe Postgres sau ați mutat totul pe un engine dedicat?