Validare umană pentru deciziile sensibile și control complet asupra acțiunilor agenților AI.
Inbox este lista de sarcini a fiecărui utilizator în VOGO eBS AIAO: aici ajung pașii din fluxurile de lucru care cer intervenția unui om — o aprobare, completarea unui formular, o repartizare, un răspuns.
Ce se poate face dintr-o sarcină
- Repartizarea către un compartiment sau către o persoană din compartiment; dacă pasul are o arie definită, se pot alege numai structurile și oamenii din acea arie.
- Discuții pe sarcină, cu mesajele celor implicați, păstrate lângă sarcină.
- Aprobare în patru ochi: sarcina arată câte aprobări sunt necesare și cine a aprobat deja, cu data.
- Termenul sarcinii și istoricul ei, de la creare până la închidere.
- Documentele cazului, consultate din sarcină, în limita drepturilor utilizatorului.
Automatizarea fără frână este o răspundere, nu un avantaj
Un sistem care decide singur în chestiuni cu efecte asupra oamenilor mută răspunderea într-un loc unde nu poate fi exercitată. Cine răspunde pentru o clasificare greșită care a trimis o petiție în compartimentul nepotrivit și a ratat termenul de treizeci de zile?
Regulamentul (UE) 2024/1689 privind inteligența artificială formalizează această intuiție: pentru sistemele cu risc ridicat, supravegherea umană nu e o bună practică, ci o cerință. Iar în administrație, multe fluxuri intră în această categorie.
Cum se păstrează omul în buclă
Nivelul de autonomie se stabilește pe tip de operațiune, nu global. Propunerile fără consecințe directe pot fi aplicate automat; cele care produc efecte — o înregistrare, o clasificare cu termen legal, o respingere — pot cere confirmare.
Când confirmarea e necesară, cazul ajunge la persoana potrivită cu tot contextul: documentul, propunerea agentului și motivul ei. Omul confirmă, corectează sau respinge, iar decizia lui rămâne în evidență lângă propunerea inițială.
Corecțiile nu se pierd. Ele arată, în timp, unde agentul greșește sistematic și unde regulile trebuie ajustate.
- autonomie configurată pe tip de operațiune, nu global;
- cazul ajunge la om cu propunerea și cu motivul ei;
- decizia umană rămâne în evidență lângă propunerea agentului;
- corecțiile arată unde trebuie ajustate regulile.
Ce câștigă organizația
Automatizare pe care o puteți apăra. La un control, la o contestație sau într-o discuție internă, se poate arăta cine a decis, pe ce bază, și că decizia nu a fost lăsată unui sistem fără supraveghere.
Și un efect practic, mai puțin evident: încrederea echipei. Un sistem care cere confirmare acolo unde contează este acceptat mai ușor decât unul care decide singur și trebuie corectat după.
Întrebări și răspunsuri
Cine stabilește ce decizii cer confirmare?
Organizația, prin configurare. Nivelul de autonomie se definește pe tip de operațiune.
Nu încetinește asta automatizarea?
Confirmarea se cere doar acolo unde a fost configurată. Restul fluxului rămâne automat, iar cazul ajunge la om pregătit, nu de la zero.
Ce se întâmplă cu deciziile pe care omul le corectează?
Rămân în evidență, alături de propunerea inițială, și servesc la ajustarea regulilor.
Cum se demonstrează supravegherea umană la un audit?
Prin jurnalul de audit, care conține atât propunerea agentului, cât și decizia persoanei care a confirmat sau a corectat-o.