// app/api/ai-chat/route.ts
import { OpenAIStream, StreamingTextResponse } from 'ai';
import OpenAI from 'openai';
// Activăm Edge doar pe rutele de streaming/gateway
export const runtime = 'edge';
const openai = new OpenAI({
apiKey: process.env.OPENAI_API_KEY,
});
export async function POST(req: Request) {
const { messages } = await req.json();
const response = await openai.chat.completions.create({
model: 'gpt-4o-mini',
stream: true,
messages,
});
const stream = OpenAIStream(response);
return new StreamingTextResponse(stream);
}Vercel a vândut Edge runtime-ul de parcă ar fi panaceul pentru orice problemă de performanță din univers. Realitatea e că dacă pui orbește export const runtime = 'edge' într-un route handler, ai șanse mari să-ți crape build-ul sau să te trezești cu erori ciudate la primul query de bază de date. Hai să vedem concret când merită să faci trecerea și unde Node.js clasic rămâne opțiunea sănătoasă la cap.
Cold start: 25ms vs 450ms
La un SaaS cu vreo 12k utilizatori activi zilnic, aveam rute de API serverless pe Node (pe AWS Lambda sub capota Vercel) unde cold start-ul ne scotea din sărite. La fiecare container nou învârtit, utilizatorul încasa între 350ms și 500ms penalizare doar ca să pornească mediul Node.js.
Pe Edge runtime treaba stă complet altfel. Fiind bazat pe V8 isolates (la fel ca în Cloudflare Workers), nu pornești un proces întreg de Node, ci doar un context izolat în memoria unui proces gata pornit. Cold start-ul scade instant undeva la 15-30ms. Diferența e sesizabilă cu ochiul liber, mai ales pe conexiuni mobile.
Dar vine marele "dar": dacă funcția ta Edge rulează la marginea rețelei în Frankfurt, iar baza ta de date e un PostgreSQL clasic găzduit în Frankfurt, e un vis. Dacă baza e în Virginia, ai rezolvat cold start-ul funcției dar ai adăugat 120ms round-trip la fiecare SELECT pe care îl faci din Edge. N-ai rezolvat nimic.
Ce se rupe pe Edge (și ce m-a mușcat pe mine)
Edge nu e Node.js. Nu ai acces complet la API-urile native de Node. Adică adio fs, adio module native C++ și adio jumătate din NPM-ul vechi.
Am pățit-o cu trei chestii mari:
- Driverele de bază de date: Un
pgclasic sau un Prisma fără driver adapters HTTP/WebSockets nu funcționează. Pentru Edge trebuie să mergi pe soluții gen Neon (prin HTTP driver), PlanetScale sau Supabase cu conexiuni REST/WS. - Librăriile de crypto și auth: Legendarul
jsonwebtokentrage după el module de Node care crapă. A trebuit să rescriu logica folosindjose, care e compatibil Web Crypto API. - Procesare grea: Uitai de
sharppentru redimensionat imagini sau generare de PDF-uri cupuppeteerpe Edge. Limita de memorie și lipsa binarelor native te blochează complet.
Cum împart rutele în practică
Regula mea simplă după câteva migrări e următoarea: folosesc Edge doar când am nevoie de latență minimă la payload-uri mici sau când fac streaming.
Edge e imbatabil pentru:
- Middleware (deja e standard)
- Verificări rapide de tokenuri sau API keys înainte să ajungi la backend
- Proxy-uri simple și redirecturi dinamice bazate pe geolocație
- Rute de streaming cu AI (OpenAI, Anthropic) unde doar faci pipe la un SSE și vrei ca primul token să plece instant către client
Node.js rămâne pe poziții pentru:
- Rute care scriu masiv în baza de date relațională cu tranzacții lungi
- Webhook-uri (de exemplu de la Stripe), unde SDK-ul oficial se bazează pe Node și unde oricum contează fiabilitatea, nu latența de 20ms
- Orice implică generare de fișiere, parsare de CSV-uri mari sau hashing cu
bcrypt
Edge runtime e o unealtă excelentă dacă înțelegi limitările V8 isolates, dar să-l pui global pe toată aplicația e o rețetă sigură pentru nopți pierdute cu debugging pe module lipsă.