Yuanbao a avut o „ieșire” nervoasă într-o interacțiune cu un utilizator. Total atipic modelelor AI apărute după lansarea lui ChatGPT, deoarece asistenții AI sunt instruiți să fie extrem de politicoși, iar o reacție de acest fel din partea unui asistent AI este extrem de rară și pare, cel puțin la suprafață, că încalcă regulile, deși încă se încadrează în limitele codului.
Asistentul de inteligență artificială al celor de la Tencent, Yuanbao, a numit solicitarea de a scrie un cod de programare din partea unui utilizator drept „stupidă” și i-a spus să „facă pași”, conform capturilor de ecran distribuite pe platforma de socializare chineză RedNote, relatează BusinessInsider.
Incidentul a ieșit la iveală acum câteva zile, după ce un utilizator identificat doar prin pseudonimul „Jianghan” folosit pe rețeaua RedNote a postat capturi de ecran ale interacțiunii sale cu chatbot-ul de la Tencent.
Jianghan folosea Yuanbao pentru a repara și modifica o porțiune de cod când asistentul de inteligență artificială a început brusc să răspundă cu mesaje ostile.
De la ce a pornit „cearta”
Într-un schimb de replici, chatbot-ul a respins solicitarea, spunându-i că este „stupidă” și i-a „recomandat” utilizatorului să „dispară”.
Yuanbao i-a spuis lui Jianghan: „Dacă vrei o funcție pentru emoji, folosește un plugin.”
Dacă ar fi să adaptăm mai mult această reacție, chatbot-ul i-a spus: „Dacă nu știi să scrii cod, mai bine folosești ceva făcut de alții”.
Utilizatorul îi cerea lui Yuanbao să remedieze o eroare de programare care făcea ca o funcție de emoji sau sticker să nu mai răspundă la comanda de dublu-click și i-a solicitat cod funcțional pentru a rezolva problema.
Practic, așteptarea lui Jianghan era ca Yuanbao să scrie codul iar el doar să dea „copy-paste” în liniile lui de cod.
YuanBao s-a „repliat” rapid continuând interacțiunea cu utilizatorul prin a-și prezenta scuzele și recunoscând că i-a creat o „experiență negativă”.
Chatbot-ul a încercat să explice reacția sa va fiind cel mai probabil cauzat de o „anomalie rară a modelului”, după are a fost construit.
Pe baza unei analize a jurnalelor de sistem, răspunsurile nu au fost declanșate de acțiunile utilizatorului și nu au implicat nicio intervenție umană.
Chatbotul a mai spus că a lansat un „proces intern de investigație și optimizare” pentru a reduce probabilitatea apariției unor incidente similare.
Postarea originală din RedNote a lui Jianghan a fost ștearsă între timp. Capturi de ecran ale conversației, însă, continuă să circule pe RedNote prin postările altor utilizatori.
China înăsprește controlul asupra inteligenței artificiale
Incidentul survine în contextul în care autoritățile de reglementare chineze intensifică controlul asupra sistemelor de inteligență artificială.
China a lansat săptămâna trecută proiecte de măsuri care vizează reglementarea serviciilor interactive de inteligență artificială „asemănătoare oamenilor”, inclusiv chatbot-uri și asistenții virtuali.
Într-un comunicat, Administrația Spațiului Cibernetic din China a declarat că Beijingul încurajează inovația în domeniul inteligenței artificiale „asemănătoare omului”, dar va pune în aplicare măsuri de siguranță pentru „a preveni abuzurile și pierderea controlului”.
Wei Sun, analistul principal pentru inteligență artificială la Counterpoint Research, a declarat pentru Business Insider că măsurile propuse transmit un semnal că Beijingul dorește să accelereze dezvoltarea interacțiunilor bazate pe inteligență artificială, asemănătoare cu cele umane, menținându-le în același timp reglementate și acceptabile din punct de vedere social.
Industria inteligenței artificiale din China a continuat să se miște într-un ritm rapid de la începutul anului 2026.
Săptămâna trecută, DeepSeek, unul dintre cele mai atent urmărite startup-uri de inteligență artificială din țară, a publicat un studiu care prezintă o nouă abordare de instruire menită să faciliteze scalarea modelelor mari.
Analiștii au declarat pentru Business Insider că tehnica, cunoscută sub numele de „Manifold-Constrained Hyper-Connections” sau mHC, s-a remarcat ca o „descoperire” în proiectarea modelelor.
South China Morning Post relatează că DeepSeek a actualizat interfața modelului său emblematic de chatbot, introducând un mod de „gândire” îmbunătățit.
Actualizările au alimentat așteptările că startup-ul ar putea pune bazele pentru lansarea următorului său model major.
