Inteligența Artificială (AI) generativă de la Google, deși promite rezultate rapide și concise în căutări, se confruntă cu o problemă majoră: acuratețea. Un studiu recent indică faptul că sistemul „AI Overview” oferă răspunsuri corecte în doar 90% din cazuri. Această rată de eroare, deși pare mică la prima vedere, devine semnificativă având în vedere volumul uriaș de căutări procesate zilnic.
Erori curente și consecințe
Google ar putea procesa peste cinci trilioane de căutări până în 2026. Asta înseamnă zeci de milioane de răspunsuri potențial greșite în fiecare oră și sute de mii de erori în fiecare minut. Problemele nu se opresc aici. Acuratețea răspunsurilor este dificil de verificat, deoarece o căutare repetată poate genera un răspuns diferit. De asemenea, modul în care funcția AI Overview este afișată, în partea de sus a paginii de rezultate, încurajează utilizatorii să aibă încredere în informațiile furnizate, chiar dacă acestea nu sunt întotdeauna corecte.
Surse de Informații și Vulnerabilități
O altă problemă majoră este legată de sursele de informații utilizate. Cercetătorii au descoperit că platforme precum Facebook și Reddit sunt citate frecvent, chiar dacă ele nu sunt întotdeauna cele mai fiabile. În unele cazuri, AI-ul citează surse credibile, dar interpretează greșit informațiile. Există și riscul manipulării intenționate, indivizi cu cunoștințe despre sistem putând crea conținut fals și să îi crească vizibilitatea. Astfel, AI-ul ar putea prelua aceste informații eronate și să le distribuie. Un reprezentant Google a declarat că sistemele lor folosesc aceleași mecanisme de filtrare ca motorul de căutare. Ei au mai menționat că multe exemple problematice provin din interogări nerealiste.
Ce e de făcut
Utilizatorii ar trebui să abordeze informațiile furnizate de AI cu scepticism. O eroare la fiecare zece răspunsuri poate părea minoră, dar devine relevantă având în vedere numărul mare de căutări efectuate zilnic. Studiile sugerează că dependența excesivă de astfel de tehnologii poate afecta capacitățile cognitive umane. Sistemul în sine avertizează: „AI-ul poate greși, așa că verifică informațiile!”
Un studiu recent citat de The New York Times dezvăluie că platforma Google ar putea procesa peste cinci trilioane de căutări până în 2026.
