Control asupra AI: să poți explica fiecare decizie automată
Reguli și urme scrise pentru ce decide un model în locul tău
Poți răspunde de ce a decis sistemul așa, nu doar ce a decis
Întrebarea grea nu vine de la client. Vine de la propriul contabil, care întreabă de ce sistemul a înregistrat factura aceea așa.
Ce obții
Fiecare decizie are o urmă
Ce a intrat, ce model a răspuns, ce a ieșit și ce s-a făcut mai departe — păstrat, nu reconstituit.
Limite explicite
Ce are voie modelul să decidă singur și ce trece obligatoriu pe la un om e scris, nu presupus.
Costurile sunt vizibile
Consumul pe flux e măsurat, cu plafoane. Nu descoperi la finalul lunii că un flux a rulat în buclă.
Datele nu pleacă necontrolat
Ce se trimite unui model extern e definit explicit, iar ce nu trebuie să plece nu pleacă.
Cum funcționează
1. Inventarul
Stabilim unde anume în sistemele voastre decide un model și ce efect are fiecare decizie.
2. Pragurile
Fiecare decizie primește o limită: sub ce încredere sau ce valoare trece obligatoriu pe la un om.
- PostgreSQL
3. Jurnalul
Intrarea, ieșirea și versiunea modelului se păstrează pentru perioada pe care o stabiliți voi.
- PostgreSQL
4. Plafoanele
Consumul e limitat pe flux. Un flux care depășește pragul se oprește și anunță, în loc să continue.
- n8n
Unde funcționează bine
- Fluxuri unde un model ia decizii cu efect financiar
- Prelucrări care ating date cu caracter personal
- Situații unde trebuie să explici o decizie unui auditor sau unui client
- Sisteme cu mai multe fluxuri care folosesc modele diferite
Unde nu funcționează
- Nu suntem consultanți juridici — documentăm ce face sistemul, nu ce impune legea
- Nu deținem ISO 27001 sau SOC 2; unde vă trebuie o certificare, o spunem direct
- Un singur flux simplu, fără decizii, nu are nevoie de acest strat
Ce folosim
- PostgreSQL
- n8n
Întrebări frecvente
- Ne face conformi cu regulamentul european privind AI?
- Nu. Vă dă urmele și controalele pe care conformitatea le cere, dar conformitatea o stabilește consilierul vostru juridic, nu noi.
- Datele noastre ajung la furnizorul modelului?
- Doar ce definim explicit că se trimite. Unde datele nu au voie să plece, folosim modele găzduite local, cu costul aferent spus dinainte.
- Cât timp se păstrează jurnalele?
- Cât stabiliți voi. Implicit propunem douăsprezece luni, dar termenul e o decizie de business, nu una tehnică.
- Cine răspunde dacă modelul greșește?
- Voi, ca operator al procesului. Rolul acestui strat e să reducă frecvența și să facă greșeala explicabilă, nu să mute răspunderea.
- E nevoie de la început sau se adaugă după?
- Pragurile și jurnalul, de la început — sunt ieftine atunci și scumpe retroactiv. Restul se poate adăuga pe măsură ce crește folosirea.