Control asupra AI: să poți explica fiecare decizie automată

Reguli și urme scrise pentru ce decide un model în locul tău

Poți răspunde de ce a decis sistemul așa, nu doar ce a decis

Întrebarea grea nu vine de la client. Vine de la propriul contabil, care întreabă de ce sistemul a înregistrat factura aceea așa.

Ce obții

Fiecare decizie are o urmă

Ce a intrat, ce model a răspuns, ce a ieșit și ce s-a făcut mai departe — păstrat, nu reconstituit.

Limite explicite

Ce are voie modelul să decidă singur și ce trece obligatoriu pe la un om e scris, nu presupus.

Costurile sunt vizibile

Consumul pe flux e măsurat, cu plafoane. Nu descoperi la finalul lunii că un flux a rulat în buclă.

Datele nu pleacă necontrolat

Ce se trimite unui model extern e definit explicit, iar ce nu trebuie să plece nu pleacă.

Cum funcționează

Fluxul, pas cu pas
  1. 1. Inventarul

    Stabilim unde anume în sistemele voastre decide un model și ce efect are fiecare decizie.

  2. 2. Pragurile

    Fiecare decizie primește o limită: sub ce încredere sau ce valoare trece obligatoriu pe la un om.

    • PostgreSQL
  3. 3. Jurnalul

    Intrarea, ieșirea și versiunea modelului se păstrează pentru perioada pe care o stabiliți voi.

    • PostgreSQL
  4. 4. Plafoanele

    Consumul e limitat pe flux. Un flux care depășește pragul se oprește și anunță, în loc să continue.

    • n8n

Unde funcționează bine

  • Fluxuri unde un model ia decizii cu efect financiar
  • Prelucrări care ating date cu caracter personal
  • Situații unde trebuie să explici o decizie unui auditor sau unui client
  • Sisteme cu mai multe fluxuri care folosesc modele diferite

Unde nu funcționează

  • Nu suntem consultanți juridici — documentăm ce face sistemul, nu ce impune legea
  • Nu deținem ISO 27001 sau SOC 2; unde vă trebuie o certificare, o spunem direct
  • Un singur flux simplu, fără decizii, nu are nevoie de acest strat

Ce folosim

  • PostgreSQL
  • n8n

Întrebări frecvente

Ne face conformi cu regulamentul european privind AI?
Nu. Vă dă urmele și controalele pe care conformitatea le cere, dar conformitatea o stabilește consilierul vostru juridic, nu noi.
Datele noastre ajung la furnizorul modelului?
Doar ce definim explicit că se trimite. Unde datele nu au voie să plece, folosim modele găzduite local, cu costul aferent spus dinainte.
Cât timp se păstrează jurnalele?
Cât stabiliți voi. Implicit propunem douăsprezece luni, dar termenul e o decizie de business, nu una tehnică.
Cine răspunde dacă modelul greșește?
Voi, ca operator al procesului. Rolul acestui strat e să reducă frecvența și să facă greșeala explicabilă, nu să mute răspunderea.
E nevoie de la început sau se adaugă după?
Pragurile și jurnalul, de la început — sunt ieftine atunci și scumpe retroactiv. Restul se poate adăuga pe măsură ce crește folosirea.

Poți explica de ce a decis sistemul tău așa?

Solicită un audit gratuit