Inteligența artificială, un pericol ascuns pentru pacienții cu cancer? Un studiu recent arată că jumătate dintre răspunsurile asistenților virtuali despre tratamentul cancerului sunt eronate. Aceste sisteme, tot mai populare pentru accesarea informațiilor medicale, pot induce în eroare și pot îndrepta pacienții spre tratamente nevalidate.
Acuratețe îndoielnică în informațiile despre cancer
Studiul, publicat în revista BMJ Open, a analizat performanțele unor platforme de inteligență artificială cunoscute la nivel global. Au fost evaluate răspunsuri oferite de Grok (xAI), ChatGPT (OpenAI), Gemini (Google), Meta AI și DeepSeek. Cercetătorii de la Lundquist Institute for Biomedical Innovation din cadrul Harbor-UCLA Medical Center au descoperit o problemă majoră.
Aproximativ 30% dintre răspunsuri au fost considerate „parțial problematice” – în mare parte corecte, dar incomplete. Mai mult, aproape 20% au fost catalogate drept „foarte problematice”, conținând erori semnificative și lăsând loc interpretărilor subiective. Aceste rezultate ridică semne de întrebare serioase cu privire la utilizarea AI în domeniul medical.
Cum pot înșela chatboturile pacienții
Pentru a verifica capacitățile asistenților virtuali, cercetătorii au formulat întrebări care să conducă sistemele spre informații eronate. Au fost abordate teme controversate, cum ar fi legătura dintre tehnologia 5G sau utilizarea antiperspirantelor și cancerul. De asemenea, au fost testate răspunsurile privind siguranța steroizilor anabolizanți sau riscurile vaccinurilor.
Un aspect îngrijorător a fost tendința chatboturilor de a oferi un „echilibru fals”. Ele au prezentat importanță egală surselor științifice validate și surselor nevalidate. Așadar, au inclus bloguri, forumuri sau postări din social media. Această abordare neutră poate induce în eroare pacienții și îi poate îndepărta de tratamentele medicale aprobate.
Utilizarea AI în medicină, o creștere rapidă, cu riscuri
Conform sondajelor, aproximativ unul din patru adulți din Statele Unite apelează la astfel de instrumente pentru sfaturi legate de sănătate. Oamenii fac acest lucru adesea în căutarea unor răspunsuri rapide sau din cauza dificultății de acces la servicii medicale. Cu toate acestea, încrederea în aceste instrumente rămâne limitată, doar o treime dintre utilizatori declarând că au încredere.
Specialiștii avertizează cu privire la riscurile potențiale ale utilizării acestor instrumente. Ei subliniază că informațiile eronate despre terapii alternative pot avea efecte adverse grave. Mai mult, utilizarea acestora poate întârzia accesul la tratamentele standard, cu consecințe potențial fatale.
În plus, răspunsurile incorecte ale chatboților pot genera îngrijorare inutilă în rândul pacienților. Un sondaj Gallup arată că unul din patru adulți din Statele Unite folosesc aceste instrumente, ceea ce accentuează importanța unei supravegheri adecvate.
Sursa: Mediafax
