Studiul, realizat de Mass General Brigham din Massachusetts, unul dintre cele mai mari și cunoscute sisteme medicale din Statele Unite, şi publicat în revista medicală Jama Network Open, a analizat 21 de modele diferite de inteligență artificială, potrivit Financial Times.
Cercetătorii au oferit modelelor AI informațiile treptat, exact ca într-o situație reală: mai întâi simptomele, apoi rezultatele examinării și, în final, analizele de laborator. După fiecare etapă, chatboții au fost întrebați ce diagnostic consideră probabil.
Chatboții greșesc diagnosticul medical inițial
Rezultatele au fost îngrijorătoare. În momentul în care modelele au trebuit să ofere un așa-numit ”diagnostic diferențial”, adică o listă de posibile boli, rata de eroare a depășit 80% în toate cazurile.
Situația s-a îmbunătățit doar atunci când au fost puse la dispoziție toate datele, iar în unele cazuri cele mai performante modele au depășit 90% acuratețe. Cu toate acestea, în viața reală, pacienții ajung rar să aibă toate informațiile complete de la început.
”Aceste modele sunt foarte bune atunci când au toate informațiile necesare pentru a pune un diagnostic final, dar se descurcă mult mai slab la începutul unui caz, când datele sunt limitate”, a explicat Arya Rao, cercetător medical și autor principal al studiului, în cadrul Mass General Brigham.
Ce spun companiile care dezvoltă modele AI
Companiile care dezvoltă aceste tehnologii recunosc și ele limitele. Anthropic susține că sistemele sale sunt concepute să îi îndrume pe utilizatori către medici, iar Google a introdus avertismente în aplicațiile sale pentru a încuraja verificarea informațiilor.
De asemenea, OpenAI precizează că serviciile sale nu ar trebui folosite pentru a oferi sfaturi medicale fără implicarea unui specialist.
De ce medicii nu pot fi înlocuiți de chatboții
Specialiștii atrag atenția că medicina nu înseamnă doar date introduse într-un sistem. Un medic analizează pacientul în mod direct, observă comportamentul, starea generală și reacțiile acestuia, lucruri pe care un chatbot nu le poate înțelege complet.
”Evaluarea unui pacient nu se bazează doar pe date, ci și pe observația directă — cum arată, cum se simte și cum reacționează”, a explicat Sanjay Kinra, epidemiolog clinic la London School of Hygiene & Tropical Medicine.
Specialiștii recomandă ca orice problemă de sănătate să fie discutată cu un profesionist, iar chatboții să fie folosiți doar ca un instrument suplimentar, nu ca o soluție principală.
