Incidentul a fost relatat de client într-o postare publică, însoțită de o fotografie a conversației cu Lia. Ulterior, Libra Internet Bank a reacționat printr-o postare pe LinkedIn, în care a precizat că Lia funcționează „prin OpenAI” și a explicat cum ar fi putut apărea răspunsul nepotrivit.
Ce i-a răspuns Lia clientului Libra Internet Bank
Din imaginea publicată de client reiese că discuția cu Lia viza inițial condiții legate de utilizarea serviciilor bancare. Asistentul îi cerea utilizatorului informații suplimentare, inclusiv dacă în luna precedentă efectuase minimum 3 plăți cu cardul.
Nemulțumit de conversație, clientul i-a transmis asistentului: „Îmi pierd vremea cu tine”.
Lia a răspuns: „Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar. Vei primi un răspuns în scurt timp”.
Clientul a povestit că inițial a fost surprins de mesaj, după care a început să râdă și a decis să publice conversația. Totodată, acesta a pus sub semnul întrebării continuarea relației sale cu banca.
„După un asemenea mesaj mă gândesc serios dacă să rămân client sau nu? Oricum nu mai sunt ce au fost! Aș vrea să știu care ar fi reacția voastră?”, a scris clientul în postarea în care a prezentat incidentul.
Reacția Libra după răspunsul dat de asistentul AI Lia
Libra Internet Bank și-a cerut scuze și a an2Bigtextaddexpandmore-dots TextSource codeunțat că au fost implementate restricții suplimentare pentru asistentul său AI. Banca a pus incidentul în contextul modului în care funcționează sistemele de inteligență artificială și al încercărilor de a face interacțiunile acestora mai apropiate de comunicarea umană.
„În efortul marilor companii AI de a umaniza interacțiunile, agenții AI, deși au interdicții, în situații rare, pot să copieze limbajul la care au fost supuși. Cum aceste sisteme funcționează statistic și nu deterministic interdicțiile pot să nu funcționeze”, a transmis Libra Internet Bank.
Banca a precizat însă că Lia nu ar trebui să reproducă un comportament nepotrivit, indiferent de modul în care îi vorbește utilizatorul.
„Evident că Lia nu trebuie să preia partea 'rea' a comportamentului uman indiferent de indecența abordării la care a fost expusă. În acest sens au fost implementate interdicții suplimentare pentru a exclude interacțiunile nepotrivite și ne cerem scuze față de situația curentă”, a transmis Libra Internet Bank.
Compania și-a încheiat reacția cu întrebarea: „Dar este oare Libra Bank în măsură să comenteze cum evoluează "umanizarea" AI-ului?”.
