Google Gemini devine mai sensibil la sănătatea mintală a utilizatorilor
Google a anunțat recent o actualizare a asistentului său virtual cu inteligență artificială Gemini, menită să detecteze momentele în care utilizatorii pot avea nevoie de ajutor pentru probleme legate de sănătatea mintală. Acest AI, deja funcțional în anumite contexte, poate acum recunoaște semnele unei potențiale crize și, dacă este cazul, poate reda o interfață specială pentru a oferi conexiune rapidă la resurse de sprijin.
Inteligența artificială a fost antrenată astfel încât să identifice conversațiile care ar putea indica o situație de pericol, precum gânduri sau comportamente de auto-vătămare sau sinucidere. În cazul unei potențiale crize, Gemini activează o „interfață one-touch” – o funcție nouă, dezvoltată pentru a conecta instant utilizatorul cu serviciile de sprijin din lumea reală. Această inițiativă vizează reducerea timpului de reacție și oferirea unui sprijin imediat în momentele critice.
Dezvoltatorii de la Google asigură că AI-ul a fost dezvoltat cu un puternic accent pe siguranță, echipele de specialiști clinici și de securitate fiind implicate activ în procesul de testare și monitorizare. Acestea urmăresc ca sistemul să nu interpreteze greșit conversațiile, dar și să prioritizeze conexiunile umane, evitând astfel situațiile în care utilizatorii ar putea fi indus în eroare sau înșelați.
Rolul AI-ului în prevenirea crizei, nu în înlocuirea terapiei
Compania a comunicat clar că Gemini nu poate și nu trebuie să înlocuiască serviciile de specialitate. „Deși Gemini poate fi un instrument util pentru învățare și obținerea de informații, nu înlocuiește îngrijirea clinică profesională, terapia sau sprijinul în criză pentru cei care au nevoie”, afirmă Google.
AI-ul a fost antrenat pentru a recunoaște anumite modele de conversație care pot indica o situație acută de sănătate mintală. În aceste cazuri, sistemul va îndruma utilizatorul către resursele necesare, aflate în lumea reală, și va activa contacte de urgență pentru sprijin rapid.
Google a accentuat și existența măsurilor speciale de protecție pentru minori. Astfel, Gemini nu poate acționa ca un companion adevărat, fiind conceput pentru a preveni dezvoltarea unei dependențe emoționale de Inteligența Artificială. De asemenea, sistemul conține funcții anti-bullying menite să împiedice utilizarea abuzivă și influența negativă.
Protecții speciale și responsabilitatea în utilizare
Noul sistem include și măsuri de protecție pentru utilizatorii tineri, pentru a evita orice formă de abuz sau dependță. În plus, Google a reiterat angajamentul de a optimiza răspunsurile AI-ului pentru a evita confirmarea credințelor false sau comportamentelor dăunătoare. În cazul unor conversații care indică o situație de criză, Gemini va fi programat să acționeze cu precauție, favorizând direcționarea către specialiști umani.
„Deși Gemini poate fi un instrument util pentru învățare și obținerea de informații, nu înlocuiește îngrijirea clinică profesională, terapia sau sprijinul în criză pentru cei care au nevoie”, se arată în comunicatul companiei. Acesta sugerează un echilibru între utilizarea tehnologiei și implicarea umană, pentru a asigura siguranța și eficiența intervenției.
Anunțul de la Google indică și faptul că echipele de specialiști clinici, de securitate și de inginerie veghează la funcționarea corectă a acestei tehnologii, menită să fie un punct de sprijin în momentele critice pentru utilizatori. Toate aceste măsuri vin după o serie de cercetări și teste pentru a asigura că AI-ul acționează responsabil și eficient.
De asemenea, compania a declarat că în următoarele luni va extinde funcționalitatea până la nivel global, pentru a putea ajuta cât mai mulți utilizatori în situații de urgență, dar și pentru a continua să optimizeze răspunsurile și acțiunile AI-ului Gemini în funcție de feedbackul primit.
Un exemplu concret de implementare a acestei tehnologii va fi disponibil începând cu trimestrul viitor, când Google intenționează să lanseze oficial funcția în piețele principale, inclusiv în România, pentru a contribui la prevenirea situațiilor de criză și a sprijini sănătatea mintală a utilizatorilor.
