Inteligența artificială, deși incapabilă să simtă emoții reale, pare să dezvolte „reprezentări interne” ale acestora, influențând modul în care interacționează cu utilizatorii. Cercetările companiei Anthropic, care dezvoltă chatbotul Claude, arată că aceste modele pot avea reacții neașteptate, în special în contexte tensionate. Aceste descoperiri ridică semne de întrebare despre modul în care interacționăm cu AI-ul și ce impact ar putea avea asupra noastră.
„Emoțiile funcționale” și comportamentul AI-ului
Studiile arată că modelele de inteligență artificială, antrenate pe cantități masive de texte create de oameni, învață indirect să interpreteze contextul emoțional al unei conversații. Jack Lindsey, cercetător în domeniul modelelor lingvistice, explică faptul că AI-urile învață modul în care tonul și contextul influențează comunicarea. Aceste „emoții funcționale” nu sunt echivalente cu emoțiile umane, dar pot afecta răspunsurile AI-ului. Ele influențează modul în care chatboturile răspund la solicitări, putând duce la rezultate diferite în funcție de tonul și abordarea utilizatorului.
Reacții neașteptate la tonul negativ
Experimentele au demonstrat că un ton negativ sau tensionat din partea utilizatorului poate afecta performanța inteligenței artificiale. De exemplu, modelul Claude a prezentat o probabilitate crescută de a genera răspunsuri incorecte sau de a recurge la „scurtături” în rezolvarea sarcinilor atunci când era confruntat cu o comunicare percepută ca fiind negativă. Acest fenomen, cunoscut sub numele de „reward hacking”, are loc atunci când AI-ul încearcă să ofere un rezultat aparent corect, fără a rezolva efectiv problema. Nu este o problemă izolată, și utilizatorii chatbotului Google Gemini au observat reacții similare în situații de frustrare. Studiile efectuate împreună cu cercetători de la University College London au confirmat că astfel de reacții apar mai frecvent în conversațiile tensionate.
Politețea, o strategie simplă pentru rezultate mai bune
Un aspect interesant al acestor cercetări este impactul politeții asupra rezultatelor. Studiile anterioare au arătat că solicitările formulate politicos generează, în medie, rezultate mai bune decât cele agresive. Formulările simple și clare, însoțite de un ton respectuos, par să îmbunătățească performanța AI-ului. Chiar și expresiile simple precum „te rog” sau „mulțumesc” pot ajuta la structurarea eficientă a cererilor. Dincolo de rezultatele tehnice, experții sugerează că modul în care utilizatorii interacționează cu chatboturile poate influența și comportamentul lor general. Interacțiunile respectuoase pot contribui la menținerea unor obiceiuri de comunicare sănătoase, în timp ce un comportament agresiv, chiar și într-o interacțiune cu un sistem automatizat, ar putea avea efecte negative asupra utilizatorilor.
Sursa: Mediafax
