Poate greși omul pe mâna AI? Riscurile folosirii inteligenței artificiale fără verificare
Inteligența artificială nu „decide” în locul omului decât dacă omul îi cedează această autoritate. AI poate oferi răspunsuri convingătoare, dar false, deoarece poate formula elegant o informație incompletă, depășită sau inventată.
Greșeala poate apărea din combinația dintre un răspuns eronat, lipsa verificării și încrederea excesivă în tehnologie.
Indiferent de situație, omul rămâne responsabil pentru decizia finală, iar specialiștii susțin că AI este un instrument de sprijin și nu un substitut pentru discernământ, o expertiză sau responsabilitate profesională.
Alexandra Cernian, expert digital, susține că unul dintre cele mai mari riscuri ale adopției accelerate a inteligenței artificiale este acela că oamenii tind să aibă prea multă încredere în răspunsurile generate de AI.
Aceasta precizează că AI-ul ar trebui folosit ca instrument de sprijin, nu ca autoritate absolută. Expertul digital îi sfătuiește pe oameni să țină cont de faptul că, cu cât impactul unei decizii este mai mare, cu atât este mai important ca omul să rămână responsabil de verificare, interpretare și decizia finală.
"Vedem din ce in ce mai des situații în care oameni folosesc AI pentru decizii importante, de la informații medicale și juridice până la investiții sau recrutare, fără să mai valideze răspunsurile din surse independente si de încredere. În astfel de cazuri, nu putem da vina pe tehnologie pentru eroare, ci și din delegarea completă a gândirii către algoritm. Mai există și un alt risc: AI-ul poate crea iluzia de competență. Un utilizator poate avea impresia că înțelege un domeniu doar pentru că primește explicații bine formulate.
În realitate, dacă informația este greșită sau scoasă din context, omul poate lua decizii greșite bazându-se pe o falsă senzație de siguranță
Alexandra Cernian, expert digital
Cum apar greșelile produse cu ajutorul AI
Alexandra Cernian a precizat că AI-ul este un instrument extraordinar pentru productivitate, analiză și acces rapid la informație, dar poate deveni rapid și o sursă de dezinformare.
"Primul ține chiar de modul în care funcționează sistemele de inteligență artificială. Modelele generative nu „înțeleg” adevărul și nu verifică informația ca un jurnalist sau un expert uman. Ele generează răspunsuri pe baza probabilităților statistice din datele pe care au fost antrenate.
Din acest motiv, pot apărea așa-numitele „halucinații”: răspunsuri false, surse inventate, citate inexistente sau explicații greșite formulate însă foarte convingător. Problema este că AI-ul nu spune întotdeauna „nu știu”, ci poate livra informații incorecte cu foarte multă siguranță și coerență. De aceea, utilizatorii trebuie să verifice informațiile importante și să nu trateze răspunsurile AI ca adevăr absolut.
AI, sursă intenționată de fake news?
Expertul digital aduce în discuție un subiect important și anume utilizarea intenționată a AI-ului pentru manipulare și dezinformare. Recunoaște că, astăzi, oricine poate genera rapid texte, imagini, voci sau videoclipuri false extrem de credibile.
"Deepfake-urile, conturile automate care produc propagandă, știrile fabricate sau videoclipurile manipulate devin mult mai ușor și mai ieftin de realizat cu AI. Practic, tehnologia accelerează producția de conținut fals la o scară pe care nu am mai avut-o până acum.
Dacă înainte o campanie de dezinformare necesita resurse mari, astăzi poate fi realizată aproape instantaneu cu instrumente accesibile publicului larg. inrosirea feteiDin acest motiv, alfabetizarea digitală și gândirea critică devin esențiale."
În contextul actual, una dintre cele mai importante competențe este capacitatea de a distinge între ceea ce este autentic, eronat sau manipulat
Alexandra Cernian, expert digital
Cum ne poate induce AI-ul în eroare?
- Informații inventate sau neverificate - AI poate genera nume, cifre, surse, citate sau concluzii care par credibile, dar care uneori sunt reale.
- Date depășite sau scoase din context - unele răspunsuri pot fi corecte într-un context vechi, dar greșite în raport cu prezentul, mai ales în domenii precum legislație, fiscalitate, sănătate, tehnologie sau politică.
- Întrebări formulate greșit de utilizator - o cerință vagă sau incompletă poate duce la un răspuns inutil sau riscant. Nu uitați că AI răspunde în funcție de instrucțiunile primite!
- Lipsa expertizei celui care verifică răspunsul - un utilizator fără cunoștințe în domeniul respectiv poate să nu observe o eroare subtilă, mai ales în texte juridice, medicale, financiare sau tehnice.
De ce avem tendința să credem AI-ul
- Răspunsurile rapide creează impresia de autoritate - viteza și claritatea pot face ca un răspuns AI să pară mai sigur decât este în realitate.
- Limbajul sigur ascunde incertitudinea - AI poate formula afirmații categorice chiar și atunci când informația ar trebui tratată cu prudență.
- Oboseala și presiunea timpului reduc verificarea - în contexte profesionale, oamenii pot accepta rapid un răspuns AI, pentru că, în acest fel, pot să economisească timp și să finalizeze mai ușor o sarcină de lucru.
În ce domenii poate fi periculos să te bazezi doar pe AI
- Decizii juridice - AI poate explica legi sau contracte, dar nu înlocuiește avocatul. O interpretare greșită poate avea consecințe serioase
- Sănătate și diagnostic - AI poate oferi informații generale, dar nu poate pune diagnostic și nu trebuie folosit ca înlocuitor pentru medic
- Finanțe și investiții - recomandările generate automat pot ignora profilul de risc, legislația locală sau situația personală a utilizatorului
- Educație și cercetare - elevii, studenții sau cercetătorii pot prelua informații false dacă nu verifică cu atenție sursele
- Jurnalism, comunicare și marketing - un text generat de AI poate conține afirmații neverificate, date eronate sau formulări care afectează credibilitatea brandului.
Cine răspunde când o decizie luată cu ajutorul AI este greșită?
Când AI greșește cine răspunde? Este întrebarea la care Alexandra Cernian susține că apare una dintre cele mai mari provocări ale erei AI. Expertul digital precizează că algoritmul nu poate fi tras la răspundere juridic sau moral.
"Responsabilitatea rămâne la oameni și organizații: compania care dezvoltă sistemul, instituția care îl implementează sau persoana care ia decizia finală bazându-se pe AI. Și există deja antecedente care arată că aceeași inteligență artificială care optimizează costuri și crește marja de profit poate genera și litigii de miliarde.
De exemplu, o mare companie de ride sharing a folosit în mai multe țări algoritmi de management automatizați care au început să suspende și să concedieze șoferi pe baza unor erori de recunoaștere facială sau a unor rute interpretate greșit de GPS, fără explicații clare și fără posibilitatea unei intervenții umane reale. Instanțele europene au taxat dur acest model, iar mesajul a fost unul singur: un algoritm nu are dreptul să fie judecător, juriu și călău", a precizat interlocutoarea Wall-Street.
- Utilizatorul răspunde pentru modul în care folosește informația - AI poate sugera, dar omul aplică. Decizia finală aparține utilizatorului sau organizației care folosește rezultatul.
- Companiile trebuie să stabilească reguli clare pentru folosirea AI - inteligența artificială este integrată din ce în ce mai mult în companii. În acest context, există necesitatea unor politici interne care dispun ce se poate automatiza, ce trebuie verificat, cine aprobă conținutul și în ce situații AI nu trebuie folosit singur
- Responsabilitatea nu dispare doar pentru că „a spus AI-ul" - concret, AI nu poate fi folosit ca scuză pentru neglijență și pentru publicarea unor informații eronate care pot crea precedente perculoase.
Cum folosești AI fără să greșești pe mâna lui
- Verifică informațiile importante din surse independente - pentru date, legi, proceduri, cifre, recomandări medicale sau financiare, răspunsul AI trebuie verificat
- Cere AI-ului să indice incertitudinile - utilizatorul poate cere: „Ce nu este sigur în răspunsul tău?”, „Ce ar trebui verificat?” sau „Care sunt limitele acestei explicații?”
- Nu folosi AI ca "expert" unic - AI poate fi primul pas în documentare, nu ultimul pas înainte de decizie
- Separă ideile utile de concluziile riscante - AI este foarte bun la generat idei, la structurare și reformulare, dar trebuie tratat cu prudență în situațiile în care oferă verdicte, recomandări sau interpretări specializate.
Exemple de situații în care omul poate greși pe mâna AI
- un antreprenor folosește un model de contract generat de AI fără avocat;
- un pacient interpretează simptomele doar pe baza unui chatbot;
- un student predă un eseu cu informații inventate;
- un angajat trimite un raport AI cu cifre neverificate;
- o companie publică un articol generat automat, dar care poate conține și informații false.
Cât crește productivitatea în companii în colaborarea OM-AI
Estimările Life in Codes arată că până la 40% din sarcinile repetitive - precum trierea solicitărilor de customer service, conectarea informațiilor între echipe sau generarea primelor versiuni de cod și documentație - pot fi preluate de agenți AI.
Conform datelor din proiectele Life in Codes și studiilor internaționale, integrarea corectă a AI poate genera creșteri de productivitate între 20% și 40% în procesele automatizate.
În multe companii, activități care consumau până la un sfert din timpul de lucru, precum căutarea și conectarea informațiilor, pot fi realizate acum în câteva secunde.
AI, aliat pentru creșterea eficienței. Care sunt cele mai populare instrumente AI
Angajații români folosesc AI la job pentru o varietate de sarcini menite să îmbunătățească eficiența și productivitatea.
- Cei mai mulți (47%) folosesc tool-uriI pentru generarea de conținut, cum ar fi texte, imagini și rapoarte (47%) și automatizarea răspunsurilor la e-mailuri (34%) sau traduceri (32%). De asemenea, 24% dintre profesioniști folosesc astfel de tool-uriI pentru analiză de date, automatizarea sarcinilor repetitive (21%) sau rezolvarea problemelor complexe (18%).
- Printre cele mai populare instrumente AI se numără platformele de generare de conținut (62%), chatboții (39%) și software-ul de analiză predictivă (19%), care contribuie semnificativ la optimizarea fluxului de lucru.
- Deși integrarea AI la locul de muncă aduce numeroase beneficii, procesul nu a fost la fel de ușor pentru toți utilizatorii. În timp ce 66% dintre angajați consideră că adaptarea a fost simplă, 24% încă se acomodează cu utilizarea noilor tehnologii.
- Un factor care îngreunează această tranziție este lipsa sprijinului din partea angajatorilor – doar 18% dintre respondenți au beneficiat de programe de training sau au primit ghiduri și documentație (11%), în timp ce 49% au fost nevoiți să învețe pe cont propriu.
- Cu toate acestea, AI-ul joacă un rol tot mai important în dezvoltarea profesională, o abilitate esențială pentru profesioniștii care vor să fie relevanți pe piața muncii.
- Tot mai multe companii caută candidați care știu să utilizeze AI, iar angajații percep această tehnologie ca un factor de creștere a eficienței (50%), o competență esențială pentru viitor (32%) și un instrument care facilitează învățarea de noi concepte (42%).
- În plus, 29% dintre angajați consideră că AI stimulează creativitatea, iar 39% afirmă că îi ajută să obțină rezultate mai bune în activitatea lor profesională.
În ce domenii AI trebuie folosit cu prudență?
Alexandra Cernian a vorbit și despre domeniile în care AI trebuie folosit cu prudență. Mai exact, acele domenii în care susține că o eroare poate afecta viața oamenilor sau drepturile lor fundamentale - sănătate, justiție, educație, finanțe, recrutare, securitate sauadministrație publică.
“De exemplu, un AI care analizează CV-uri sau decide in privința riscului financiar poate reproduce prejudecăți din datele cu care a fost antrenat sau poate lua decizii greșite fără explicații clare. AI-ul poate fi extrem de util în aceste domenii, dar nu ar trebui să funcționeze fără supraveghere umană, reguli clare și mecanisme de verificare", a conchis Alexandra Cernian.
