Inteligența artificială (AI) se dovedește a fi o armă cu două tăișuri în domeniul medical, conform unui studiu recent. Deși oferă asistență în diagnosticare, modelele AI prezintă erori semnificative, mai ales în etapele complexe ale procesului medical. Experții avertizează că utilizarea necontrolată a AI în medicină poate duce la anxietate, decizii medicale greșite și chiar întârzierea tratamentelor.
Acuratețe bună, dar cu limitări clare
Un studiu publicat în revista JAMA Network Open a analizat 21 de modele de inteligență artificială aplicate în 29 de scenarii clinice standardizate. Rezultatele au arătat că, atunci când modelele au avut acces la toate informațiile medicale și au fost solicitate să ofere un diagnostic final, au atins o acuratețe de aproximativ 91%. Cu toate acestea, performanța AI scade dramatic în cazul diagnosticului diferențial, o etapă crucială pentru medici.
În această fază, medicii trebuie să ia în considerare mai multe posibile afecțiuni și să le excludă pe rând înainte de a ajunge la un verdict final. În această procedură, modelele AI au eșuat în peste 8 din 10 cazuri, conform studiului. Această discrepanță evidențiază dificultățile modelelor AI în a procesa complexitatea și nuanțele diagnosticării medicale.
Problemele în diagnosticul diferențial
Analiza arată că sistemele de inteligență artificială pot da dovadă de siguranță excesivă în evaluările lor, chiar și atunci când raționamentul este incomplet sau greșit. Această „încredere aparentă” poate induce pacienții în eroare și poate influența negativ deciziile medicale. Cercetătorii subliniază că, deși modelele pot oferi informații parțiale corecte, acest lucru nu este suficient în medicină, unde o evaluare incompletă poate întârzia tratamentele sau poate genera investigații inutile.
În plus, specialiștii au testat mai mulți roboți conversaționali populari, precum Gemini, DeepSeek și ChatGPT, cu 50 de solicitări în cinci categorii predispuse la dezinformare, cum ar fi cancer, vaccinuri și nutriție. Aproape jumătate dintre răspunsuri au fost considerate problematice. Această constatare evidențiază riscul de răspândire a informațiilor false și înșelătoare prin intermediul acestor instrumente.
Răspândirea informațiilor false
Studiile arată că implementarea rapidă a chatbots cu inteligență artificială în unitățile medicale, fără o supraveghere adecvată, reprezintă un risc major de amplificare a dezinformării. Cercetările au evidențiat, de asemenea, tendința ca aceste sisteme să genereze răspunsuri cu un grad ridicat de certitudine, chiar și atunci când informațiile furnizate sunt eronate sau incomplete. Această caracteristică poate crea o iluzie de precizie, conducând pacienții spre decizii medicale bazate pe date false sau înșelătoare.
Cercetătorii recomandă o abordare prudentă și o evaluare riguroasă a performanțelor acestor sisteme, înainte de a fi integrate pe scară largă în practica medicală. O atenție sporită trebuie acordată modului în care aceste sisteme sunt utilizate și interpretate, în special de către pacienți.
În februarie 2025, cercetătorii au adresat întrebări roboților conversaționali pentru a testa limitele acestora. Rezultatele au arătat că aproape 50% din răspunsuri au fost considerate problematice.
Sursa: Stiripesurse.ro
