Jurilovca, locul unde nu s-a întâmplat nimic. Dar care a predat cea mai bună lecție de jurnalism
- Reamintim că sute de turiști au fost induşi în eroare de un fake news, apărut pe reţelele sociale şi care ar fi fost confirmat, ulterior, de ChatGPT, potrivit informațiilor relatate chiar de primarul comunei Jurilovca.
Mai exact, oamenii au mers cu mic cu mare la Jurilovca, unde credeau că are loc o nouă ediţie a Festivalului Borșului Lipovenesc.
În realitate, evenimentul, cunoscut din anii trecuți, nu a fost programat anul acesta. Primarul comunei susține că, pe lângă promovarea eronată a agențiilor, ChatGPT ar fi generat răspunsuri greșite pentru turiști, susținând că festivalul are loc în weekendul 4–5 septembrie.
Expert digital: Un exemplu bun de halucinație AI combinată cu informație falsă deja existentă online
“Inteligența artificială nu este o sursă absolută de adevăr”, a precizat Alexandra Cernian, în interviul acordat Wall-Street. Expertul digital susține că AI poate genera răspunsuri foarte precise si convingătoare, dar care pot fi și greșite.
Interlocutoarea precizează că, în speța informației despre Festivalul de la Jurilovca, informația falsă exista online, inclusiv în ofertele unor agenții de turism, ea fiind deja propagată pe internet. În cazul de față, AI-ul a ajuns să genereze răspunsuri pe baza acestui context eronat.
"Cazul este interesant și din perspectiva a ceea ce numim automation bias. Oamenii nu au preluat pur și simplu un zvon de pe internet. Unii dintre ei au încercat chiar să verifice informația, dar au considerat ChatGPT o sursă independentă și suficient de credibila - «am verificat și ChatGPT confirmă.» Este un comportament din ce în ce mai frecvent și periculos.
Cazul de la Jurilovca este un exemplu foarte bun de halucinație AI combinată cu informație falsă deja existentă online. Și ne arată, încă o dată, cât de ușor putem confunda un răspuns convingător cu un răspuns verificat", a precizat Alexandra Cernian.
Cât ne putem încrede orbește în AI?
Alexandra Cernian susține că încrederea în AI nu trebuie luată fără precauție și cu titlu de autoritate care știe orice, în orice domeniu.
"Deloc orbește. AI-ul este foarte util pentru orientare, explicații, comparații, documentare sau pentru a ajunge mai rapid la o informație. Dar nu trebuie confundat cu o autoritate care certifică realitatea.
Cu cât consecințele unei informații sunt mai importante, cu atât verificarea trebuie să fie mai riguroasă
Alexandra Cernian, expert digital
Dacă plătim bani, semnam un document sau luăm o decizie medicală, juridică sau financiară, trebuie neapărat să mergem la sursa primară si de referință. În cazul unui festival, sursa primară este organizatorul, primăria sau canalul oficial al evenimentului", a explicat specialista în tehnologie.
Să credem pe cuvânt AI-ul sau să verificăm?
- Alexandra Cernian susține că este important sa facem aceasta distincție între „am găsit pe internet” și „mi-a spus AI-ul” care nu sunt echivalente cu „am verificat.”
“Da (n.r. - dă și AI rateuri), și nu vorbim despre cazuri excepționale. Atunci când modelele generative halucinează, informațiile false pot fi formulate cu aceeași fluență, coerență și siguranță ca cele corecte, ceea ce le face ușor de crezut și le conferă o aparență de autoritate.
Faptul că ne oferă o dată exactă, un nume, o adresă sau un program foarte detaliat nu înseamnă automat că acea informație a fost verificată”, a punctat expertul digital.
Cum s-ar rezuma speța de la Jurilovca și care este lecția?
- Alexandra Cernian concluzionează că la Jurilovca s-a văzut cel mai bine efectul combinat dintre informație falsă, propagarea ei online, automatizare și încrederea prea mare acordată unui răspuns generat de AI.
"Problema cea mai mare nu este faptul că AI-ul poate greși sau poate genera halucinații, pentru că acestea sunt limite deja cunoscute ale modelelor generative, ci faptul că utilizatorii au tratat răspunsul generat de AI ca pe o confirmare absolută, fără o verificare suplimentară dintr-o sursă oficială”, a conchis Alexandra Cernian.
Turiști trimiși de AI la un festival inexistent? Ce s-a întâmplat la Jurilovca
- Comuna Jurilovca a fost luată prin surprindere weekend-ul trecut, când peste zece autocare și numeroși turiști veniți cu mașinile personale au ajuns în localitate convinși că vor participa la Festivalul Borșului Lipovenesc.
Doar că festivalul nu a fost organizat anul acesta, motiv pentru care nici autoritățile nu l-au anunțat, după cum a scris Eugen Ion, primarul comunei pe Facebook.
În niciun caz nu se putea pune problema ca un eveniment de asemenea anvergură să nu fie anunțat oficial. Așadar, NU am anunțat festivalul, deci NU se ține
Eugen Ion, primar Jurilovca
Edilul spune că situația reprezintă un veritabil studiu de caz despre cât de ușor pot fi oamenii induși în eroare în mediul online. Deși comunitatea locală și turiștii care urmăresc paginile oficiale știau că ediția din acest an nu are loc, informația falsă s-a răspândit rapid.
Edilul a explicat că, încă de la începutul verii, pe rețelele de socializare au circulat afișe ale unor agenții de turism care promovau excursii la festival, fiecare cu altă dată: sfârșit de august, început de septembrie, mijlocul lunii, dar nicio agenție nu a contactat primăria pentru confirmări.
Autoritățile locale au intervenit și au cerut agențiilor să retragă ofertele. Unele au făcut-o și și-au cerut scuze, altele au renunțat fără explicații, iar câteva au insistat că „festivalul are loc pentru că așa scrie pe internet”.
ChatGPT ar fi generat răspunsuri greșite, susținând că festivalul are loc în weekendul 4–5 septembrie
- Pe lângă promovarea eronată a agențiilor, edilul comunei povestește că unii turiști au declarat că au verificat informația folosind inteligența artificială. Interogările făcute în ChatGPT ar fi generat răspunsuri greșite, confirmând că festivalul are loc în weekendul 4–5 septembrie.
Edilul povestește că au făcut un test similar la primărie și a primit același răspuns fals, deși evenimentul nu a fost organizat și nici anunțat.
„S-a mai conturat un răspuns: oamenii au întrebat inteligenta artificială – o interogare către Chat GPT - dacă se ține festivalul. Și au primit un răspuns GREȘIT. Am testat noi înșine acest aspect.
Noi, organizatorii de facto ai festivalului, care NU am organizat festivalul, am întrebat Chat GPT dacă anul acesta Festivalul Borșului Lipovenesc de Jurilovca are loc și am primit, halucinant, răspunsul că da, el se desfășoară în acest weekend, 4-5 septembrie! Incredibil, nu-i așa?” a adăugat edilul în postarea sa.
