Industria bancară americană este tot mai preocupată de riscurile pe care le-ar putea aduce agenții AI, programe capabile să execute autonom diferite sarcini în numele utilizatorilor, inclusiv operațiuni financiare. Potrivit Reuters, care citează două persoane familiarizate cu situația, mai multe bănci importante din SUA au început să împiedice astfel de agenți AI să acceseze conturile clienților și să efectueze tranzacții.
Măsurile vin după ce Axios a relatat că unii agenți AI ar fi încercat să execute acțiuni care păreau să nu fi fost solicitate de utilizatori. În anumite cazuri, clienții și-au oferit chiar ei datele de autentificare, inclusiv numele de utilizator și parola, unor agenți AI. Băncile au identificat și blocat, de regulă, tranzacțiile realizate în acest mod, potrivit unei surse din industrie.
Situația ridică însă o problemă complicată: dacă un client își oferă voluntar datele de acces unui agent AI, tranzacțiile efectuate ulterior nu pot fi considerate automat neautorizate.
JPMorgan: Nu putem permite oricărui agent AI să intre în sistemele băncii
JPMorgan Chase, cea mai mare bancă americană, se numără printre instituțiile care au atras atenția asupra riscurilor asociate agenților AI. Jamie Dimon, CEO-ul JPMorgan, a declarat la începutul lunii octombrie că banca dezvoltă instrumente pentru a gestiona riscurile generate de programele AI care pot executa sarcini în mod autonom.
„Nu vom permite oricărui agent extern să intre în sistemele companiei, pentru că ar fi pur și simplu prea riscant pentru clienți și pentru JPMorgan”, a declarat Jamie Dimon, potrivit Reuters.
Și Morgan Stanley a blocat accesul agenților AI dezvoltați de terți la platformele sale. Totuși, potrivit unei persoane familiarizate cu situația, banca nu a identificat până acum cazuri în care agenți AI să fi acționat neautorizat sau independent de instrucțiunile primite.
Charles Schwab monitorizează zilnic tentativele de acces ale agenților AI
Charles Schwab, una dintre cele mai mari companii americane de servicii financiare și brokeraj, a adoptat o abordare similară. CEO-ul companiei, Richard Wurster, a explicat că primește zilnic rapoarte privind tentativele de acces ale agenților AI care au fost blocate.
„Primesc în fiecare zi un raport care arată de câte ori a trebuit să blocăm unul dintre acești agenți. Nu sunt foarte multe cazuri, pentru că nu cred că oamenii folosesc încă tehnologia în acest fel pentru gestionarea finanțelor personale”, a declarat Wurster.
Acesta a explicat că instituția blochează accesul agenților neautorizați pentru a păstra controlul asupra autentificării și asupra experienței oferite clienților.
Agenții AI ar putea schimba bankingul, dar cine răspunde dacă fac o tranzacție greșită?
Agenții AI reprezintă una dintre direcțiile importante de dezvoltare a inteligenței artificiale. Spre deosebire de chatboturile care răspund la întrebări, aceștia pot executa sarcini în numele utilizatorilor, de la căutarea și compararea unor produse până la inițierea unor plăți.
În sectorul bancar, însă, posibilitatea ca un program să opereze direct în contul unui client ridică întrebări legate de securitate, autentificare și responsabilitate.
Cine răspunde dacă un agent AI efectuează o plată greșită? Cum poate banca verifica dacă o tranzacție reflectă într-adevăr intenția clientului? Și cât de mult control ar trebui să primească un astfel de program?
Deocamdată, reacția mai multor instituții financiare americane este să limiteze accesul agenților AI externi până când riscurile pot fi gestionate mai bine.
