eduardweb.
OpenAI & ClaudeAvansat#typescript#backend#openai#postgres#ai-agents

Function calling cu OpenAI pe baza ta de date: pattern curat fără să riști un DROP TABLE

De Ștefan Iliescu, 15 nov. 2026 · 11 vizualizări · 3 like-uri

Postat acum 5 zile
typescript
import OpenAI from "openai";
import { z } from "zod";

const SalesParams = z.object({
  startDate: z.string().date(),
  city: z.string().optional()
});

const tools: OpenAI.ChatCompletionTool[] = [{
  type: "function",
  function: {
    name: "getSalesMetrics",
    description: "Returneaza total vanzari si nr comenzi pentru un interval",
    parameters: {
      type: "object",
      properties: {
        startDate: { type: "string", description: "Format YYYY-MM-DD" },
        city: { type: "string", description: "Orasul pentru filtru optional" }
      },
      required: ["startDate"]
    }
  }
}];

export async function runReportAgent(prompt: string, maxSteps = 3) {
  const openai = new OpenAI();
  const messages: OpenAI.ChatCompletionMessageParam[] = [
    { role: "system", content: "Esti un asistent pentru rapoarte de vanzari. Foloseste functiile disponibile." },
    { role: "user", content: prompt }
  ];

  for (let i = 0; i < maxSteps; i++) {
    const res = await openai.chat.completions.create({
      model: "gpt-4o-mini",
      messages,
      tools
    });

    const msg = res.choices[0].message;
    messages.push(msg);

    if (!msg.tool_calls?.length) return msg.content;

    for (const call of msg.tool_calls) {
      if (call.function.name === "getSalesMetrics") {
        const args = SalesParams.parse(JSON.parse(call.function.arguments));
        const dbData = await db.sales.aggregate(args); // DB query real, securizat
        
        messages.push({
          role: "tool",
          tool_call_id: call.id,
          content: JSON.stringify(dbData)
        });
      }
    }
  }
  throw new Error("Agentul a depasit limita de pasi permisi.");
}

La un proiect de e-commerce intern cu vreo 14.000 de comenzi pe lună, suportul și managerii mă zăpăceau zilnic cu exporturi custom: „câte comenzi avem returnate pe Cluj?”, „care e valoarea medie pe categoria B2B săptămâna asta?”. Am vrut să le dau un chat simplu intern, dar fără să le dau acces direct la DB și fără să las modelul să scrie SQL de capul lui.

Dacă lași GPT-4o să genereze raw SQL direct peste baza ta, mai devreme sau mai târziu o comiți, oricât prompt engineering faci. Pattern-ul sănătos e să-i expui unelte stricte prin function calling (tools), mapate 1:1 pe funcții de domeniu deja validate.

De ce nu raw SQL?

Am încercat inițial abordarea clasică: îi dai schema DDL completă în system prompt și îi ceri SELECT * FROM.... Am renunțat după trei zile. În primul rând, context window-ul se umple inutil dacă ai 40 de tabele. În al doilea rând, chiar și cu un user de PostgreSQL setat strict pe SELECT, modelul tot inventa clauze ciudate, JOIN-uri pe coloane inexistente sau rula query-uri fără LIMIT care îmi blocau conexiunile din pool.

Soluția funcțională a fost să-i definesc 4-5 tool-uri atomice cu JSON Schema strictă:

  • get_revenue_by_period(start_date, end_date, category?)
  • get_order_status_counts(city?, date_range)
  • search_customer_history(email)

Modelul nu știe cum arată tabelele din spate. El doar extrage entitățile din întrebarea omului („Cluj”, „săptămâna trecută”) și le traduce într-un apel JSON validat cu Zod.

Bucla de execuție și trade-off-urile reale

Flow-ul pe care îl folosesc în producție e o buclă while controlată strict. Dacă OpenAI decide că vrea să cheme o funcție, o execut local în backend, îi injectez rezultatul ca mesaj de tip tool și îl las să sintetizeze răspunsul final.

Aici e primul trade-off major: latența. Dacă un apel simplu la GPT-4o durează 600ms, cu un roundtrip de function calling ajungi lejer la 1.8 - 2.5 secunde (primul request -> tool_call -> DB query -> al doilea request -> răspuns text). Pentru un dashboard intern e perfect acceptabil, pentru un chat de client final pe storefront s-ar putea să pară lent.

Al doilea risc: buclele recursive. Am pățit ca modelul să primească un rezultat gol ([]) de la DB și să reîncerce același tool call cu un parametru ușor modificat de trei ori la rând. Dacă nu pui un maxSteps = 3, îți mănâncă tokenii și blochează request-ul până crapă de timeout.

Ce reguli de bun simț aplic la fiecare agent

  1. User separat de DB: Chiar dacă funcțiile din backend sunt hardcodate, conexiunea folosită de agent rulează sub un user Postgres cu permisiuni minime și statement_timeout = 2000 (două secunde maxim per query).
  2. Validare dublă: Nu te baza doar pe faptul că modelul a completat schema. Pasează arguments printr-o schemă Zod înainte să atingi ORM-ul sau query builder-ul.
  3. Trunchierea rezultatelor: Dacă funcția de DB întoarce 500 de rânduri, nu le arunca pe toate înapoi în context. Trunchează la primele 10-20 sau fă agregarea direct în SQL (COUNT, AVG). Altfel plătești o căruță de bani pe tokeni doar ca LLM-ul să citească o listă uriașă.

Voi cum ați rezolvat raportarea ad-hoc pe DB intern: tools restrânse sau agenți de tip Text-to-SQL cu sandbox izolat?

Răspunsuri 0

Se încarcă răspunsurile…

Loghează-te pentru a răspunde

Doar membrii comunității pot lăsa comentarii.