Am o situație clasică și am nevoie de un sanity check de la cei care ați migrat sisteme de la un singur monolit la infrastructură distribuită. Avem un API în Node.js cu PostgreSQL pe un dedicat măricel la Hetzner (64 GB RAM, NVMe), care duce în jur de 1.400 de request-uri pe secundă în orele de vârf fără să treacă de 35% CPU. Doar că managementul a semnat un contract enterprise, iar clauza impune high availability: minim 3 mașini, fără single point of failure pe compute.
Problema e simplă: pe o singură mașină totul e predictibil. În momentul în care spargi aplicația pe 3 noduri în spatele unui load balancer, toate presupunerile făcute în ultimii 3 ani încep să scârțâie.
Ce mă sperie cel mai tare: conexiunile la Postgres
Acum, instanța de Node ține un connection pool de vreo 20 de conexiuni direct către Postgres-ul local. Dacă pun 3 servere de aplicație cu câte 4 instanțe de PM2 sau containere pe fiecare, sar instant la 240 de conexiuni deschise. Postgres începe să plângă la context switching când depășești 150-200 de clienți activi pe specificațiile noastre.
Varianta logică ar fi PgBouncer pus în mod transaction pooling, dar nu am experiență serioasă cu el în producție. Știu din documentație că pierzi prepared statements dacă nu configurezi fallback-uri calumea în driver sau dacă nu activezi opțiunea de protocol-level named prepared statements din versiunile mai noi de PgBouncer. Întrebarea mea e: merită să pun PgBouncer centralizat pe mașina de bază de date sau câte un pooler local pe fiecare mașină de aplicație?
Statul aplicației și sesiunile
Avem autentificare bazată pe sesiuni stocate în memorie (da, știu, greșeală veche de arhitectură). Dacă pun un Hetzner Load Balancer sau un Nginx în față, opțiunea leneșă ar fi sticky sessions bazate pe cookie.
Totuși, sticky sessions anulează cam jumătate din ideea de failover. Dacă moare serverul 2, toți userii de pe el primesc 502 și sunt delogați. Alternativa curată e Redis externalizat pentru sesiuni. Dar asta înseamnă încă o piesă în infrastructură care poate pica la 3 dimineața și care adaugă o latență de rețea de 1-2ms la absolut fiecare request autentificat.
Ordinea pașilor: ce ați ataca prima dată?
Planul meu pe hârtie arată cam așa:
- Bag Cloudflare în față pentru cache agresiv pe assets și static endpoints (reducem măcar 30% din traficul care atinge backend-ul).
- Scot sesiunile în Redis și testez aplicația pe un singur nod ca să mă asigur că n-avem memory leaks sau timeout-uri ciudate pe conexiunea de cache.
- Pun PgBouncer pe nodul de bază de date.
- Ridic load balancer-ul și abia la final adaug nodurile 2 și 3.
Trade-off-ul e evident: complexitatea operațională crește de trei ori. Dacă înainte făceam deploy printr-un script simplu de bash cu un git pull și PM2 reload, acum am nevoie de health checks reale, drain la conexiuni și o strategie de rollback.
Pentru cei care ați trecut prin tranziția asta: ați întâmpinat blocaje pe care nu le vezi în tutoriale? Mă complic prea mult cu PgBouncer de la primul pas sau chiar e inevitabil când spargi compute-ul?