Conform HotNews: Inteligența artificială ar putea slăbi o abilitate cognitivă esențială: recunoașterea propriilor limite în cunoaștere. Un nou studiu, realizat de cercetători de la Universitatea Milano-Bicocca, Ecole Normale Superieure și Universitatea Sapienza, sugerează că simplul acces la un chatbot AI poate reduce capacitatea oamenilor de a spune „nu știu”, ducând la concluzii greșite și o încredere nejustificată în propriile răspunsuri.
AI-ul ne învață să răspundem chiar și când greșim
Studiul, care a implicat peste 3.000 de participanți, a examinat cum interacțiunea cu inteligența artificială influențează decizia individului de a răspunde sau nu la o întrebare. Participanților li s-au adresat întrebări dificile, vizând detalii specifice, adesea surse de „halucinații” pentru modelele lingvistice, cum ar fi culoarea echipamentului dintr-un film anume. O parte dintre aceștia au avut acces la răspunsurile unui chatbot AI, în timp ce o altă parte a răspuns fără acest sprijin. Cercetătorii au folosit intenționat un model AI care greșea frecvent, pentru a se asigura că dependența nu se bazează pe o competență generală a sursei, ci pe efectul psihologic al prezenței sale.
Rezultatele au fost surprinzătoare: în grupul care nu a avut acces la AI, aproximativ 44% dintre participanți au ales să spună „nu știu”. În contrast, în grupul care a folosit chatbotul, doar 3% au optat pentru această variantă. În același timp, acuratețea răspunsurilor a scăzut semnificativ, în timp ce încrederea participanților în propriile răspunsuri aproape s-a dublat. „Oamenii au devenit mult mai slabi la această sarcină: acuratețea lor a fost de doar o treime față de cei fără AI, însă erau de două ori mai încrezători în răspunsurile lor”, a explicat Valerio Capraro, profesor asociat la Universitatea Milano-Bicocca și coautor al studiului.
Metacogniția, abilitatea pusă la încercare de AI
Aceste constatări aduc în discuție conceptul de metacogniție, adică abilitatea de a ne evalua propriile cunoștințe și de a recunoaște când dispunem de informațiile necesare pentru a răspunde. Metacogniția este mecanismul care ne permite să distingem între „știu”, „cred că știu” și „nu știu”. Fără un metacogniție robustă, indivizii devin mai vulnerabili la erori și la formularea unor concluzii bazate pe prea multă siguranță. Riscul este, conform cercetătorilor, să ajungem să „halucinăm” răspunsuri, la fel cum fac și modelele AI, oferind informații incorecte cu o aparentă convingere.
Autorii studiului subliniază că oamenii nu sunt convingși de AI pentru că acesta ar fi întotdeauna corect, ci pentru că răspunsurile sale sunt prezentate într-un mod fluent, coerent și fără ezitări. Creierul uman pare să confunde această aparență de siguranță cu veridicitatea informației, acceptând răspunsurile pentru că sunt bine formulate și plauzibile, în loc să le verifice. Modelele lingvistice, prin natura lor, sunt construite să genereze un răspuns la aproape orice întrebare, neavând capacitatea de a-și evalua limitele sau de a recunoaște incertitudinea. Obiceiul de a delega sarcini unui astfel de sistem, care rareori admite că nu știe, ne poate determina să adoptăm același comportament. Studiul a arătat chiar că AI-ul a determinat participanții să renunțe la răspunsuri pe care le-ar fi dat corect pe baza propriei judecăți, înlocuindu-le cu raționamente greșite, dar prezentate cu convingere. Acest lucru este remarcabil, având în vedere scepticismul natural al oamenilor față de informațiile contradictorii. În mod obișnuit, o persoană care contrazice punctul de vedere inițial este cântărită cu prudență. În experiment, însă, chiar și atunci când răspunsul AI intra în conflict cu convingerile inițiale ale participanților, acest lucru nu a dus la o prudență sporită, ci dimpotrivă, le-a crescut încrederea în corectitudinea răspunsului final.
Sursa: HotNews
