Astfel, conceptul de Human-in-the-Loop (HITL) devine necesar, mai important ca niciodată, pentru că un Agent AI cu prea puțină autonomie devine o investiție pierdută pentru companie. În același timp, un Agent AI cu prea multă autonomie, nesupravegheat, devine un risc de conformitate, financiar și de securitate.
În acest peisaj, conceptul Human-in-the-Loop nu este doar o opțiune tehnică, ci o strategie care ne va garanta că automatizarea agentică este ancorată în realitate, conform legislației în vigoare și care respectă regulile de securitate.
Beneficiile Human-in-the-Loop într-o implementare de succes
Cifrele indică o schimbare uriașă, conform IBM Institute for Business Value “86% dintre directori afirmă că, până în 2027, agenții AI vor eficientiza automatizarea proceselor și reinventarea fluxurilor de lucru” [2]. Dar realitatea este îngrijorătoare, un studiu realizat de Cybersecurity Insiders arată că “91% dintre organizații descoperă ce a făcut un agent AI abia după ce acțiunea a fost deja executată.” [3].
Transformarea agentică schimbă modul în care inteligența artificială interacționează cu procesele companiei. În cybersecurity, AI Agents pot scana și identifica mai rapid potențiale amenințări, și pot chiar executa corecții minore. Dar riscul asociat unei acțiuni greșite a unui agent care poate opri un server al unei aplicații critice trebuie gestionat, pentru a preveni pierderi financiare, materiale sau de reputație.
CEO-ul NVIDIA spunea că “Departamentul IT al fiecărei companii va deveni departamentul de Resurse Umane pentru Agenții AI.” [4]. Astfel, responsabilitatea liderilor este de a forma și guverna acești agenți cu oameni pregătiți și capabili.
Mai mult decât atât, un Agent AI nu poate anticipa impactul unei decizii luate strict pe cifre. Într-un astfel de caz, omul este cel care aduce contextul și viziunea pe termen lung, capabil să analizeze datele furnizate și să ia o decizie corespunzătoare.
Când vorbim de rolul HITL într-o implementare de succes, avem în vedere trei factori importanți:
1. Responsabilitatea devine necesară în deciziile dificile sau cu un impact major care trebuie luate în deplină cunoștință de cauză. Un whitepaper publicat de Palo Alto, lider global de AI Cybersecurity, spune că “responsabilitatea sistemelor Agentice AI variază, și că orice creștere de capabilități aduce un risc asociat” [5]. Astfel, pentru o securitate mărită, trebuie să implementăm structuri de management și guvernanță care țin seama de riscuri, de tehnologie, de conformitate dar și de inițiativele de business.
2. Acuratețea datelor și transparența acțiunilor trebuie luate în calcul de la începutul implementării. Agentul AI identifică situațiile, le clasifică și poate cere ca un set de date să fie revăzut de un om, asigurând transparență și trasabilitate. Mai mult, prin EU AI Act [6], legislația cere ca un om să poată face o intervenție asupra procesului sau să îl oprească (override) în orice moment.
3. Antrenarea continuă a modelului are scopul de a reduce erorile. Cu fiecare corecție făcută de un om, Agentul AI va deveni mai precis pe viitor. Mai mult decât atât, în anumite cazuri, implicarea HITL în antrenarea modelului reduce riscul de bias și promovează echitatea.
EU AI Act și ce implicații are în automatizarea Agenților AI
În Europa, AI Act introduce în Articolul 14 (Human Oversight), necesitatea de a avea o supraveghere umană asupra sistemelor AI. HITL devine astfel o obligație juridică, unde procesele automatizate cu AI trebuie monitorizate în mod transparent, și un om poate decide dacă să continue sau să oprească în orice moment un astfel de proces. Mai mult, în anumite cazuri considerate cu risc ridicat, cum ar fi în sistemul financiar, în recrutare, sau în infrastructura de sănătate [7], o decizie trebuie revizuită și luată de cel puțin doi oameni.
Concluzie
Obiectivul liderilor nu este doar de a avea un sistem mai rapid și performant, ci de a avea un sistem care este sigur și fiabil, amestecând puterea AI-ului și inteligența umană. Sistemele AI au ca scop final să accelereze performanța organizațională și să devină eficiente pentru oamenii care le folosesc.
Inteligența artificială agentică va accelera performanța companiilor doar atunci când va lucra în echipă cu oamenii. În era autonomiei digitale, conceptul de Human-in-the-Loop devine plasa de siguranță care permite business-ului să accelereze la o scară mai mare, construind procese și sisteme robuste, rapide și sigure.
Referințe
1. CyberArk. (n.d.). What is agentic AI vs AI agents? https://www.cyberark.com/what-is/agentic-ai-and-ai-agents/
2. IBM Institute for Business Value. (2025). Agentic process automation: From productivity to reinvention. IBM. https://www.ibm.com/thought-leadership/institute-business-value/report/agentic-process-automation
3. Cybersecurity Insiders. (2026). AI risk and readiness report. https://www.cybersecurity-insiders.com/ai-risk-and-readiness-report-2026/
4. Thadani, R. (2025, January 9). Fortune. https://fortune.com/2025/01/09/nvidia-ceo-jensen-huangt-take-over-hr-ai-agents/
5. Palo Alto Networks. (2025). Securing agentic AI: Identity as the emerging foundation for defense [White paper]. Palo Alto Networks.
6. European Union. (2024). Artificial Intelligence Act. https://artificialintelligenceact.eu/
7. https://artificialintelligenceact.eu/annex/3/
Despre autoare
Ana Pîrvulescu este Consulting Services Lead în cadrul Google Cloud Consulting, poziție din care coordonează proiecte complexe de transformare digitală pentru mari instituții financiare. Stabilită în Franța și absolventă a Universității Politehnica București, Ana are o experiență de peste 12 ani în sectorul tech. Expertiza ei se concentrează pe integrarea inteligenței artificiale că avantaj strategic și pe promovarea inovației responsabile că motor al progresului și creativității.
Despre Asociația 360
Fondată în 2019, Asociația 360 (Think Tank 360) urmărește o viziune holistică asupra educației, cercetării, inovării și digitalizării din România. Misiunea sa este de a facilita colaborarea între educație, guvern și mediul de afaceri pentru a stimula progresul și investițiile în cercetare și prognoză economică. Este singurul ONG din România aflat sub auspiciile Universității Stanford și susține activ comunitatea Data Science locală, promovând diversitatea, echitatea și incluziunea. Think Tank 360 are un rol activ în implementarea Legii UE privind Inteligența Artificială, oferind claritate privind transparența, etica și prejudecățile legate de AI și creând punți între guvern, sectorul privat și societatea civilă. Din iunie 2023, organizația oferă servicii în domeniul inteligenței artificiale fiabile, managementului riscurilor, conformității, inovației și protecției drepturilor fundamentale, consolidând România în centrul digitalizării și inovării societale.
