Cercetătorii trag un semnal de alarmă cu privire la impactul potențial devastator al personajelor virtuale extrem de realiste, conduse de inteligența artificială (IA). Aceste entități digitale ar putea juca un rol major în formarea opiniei publice și în influențarea sistemelor democratice, potrivit analiștilor. Studiile recente arată că astfel de sisteme pot imita comportamentul uman online, cu o precizie și o viteză fără precedent.
Imitația umană, noua armă a IA
Un document recent publicat în revista Science descrie modul în care grupuri mari de personaje generate de IA pot reproduce comportamentul uman online. Aceste sisteme pot pătrunde în comunități digitale, participând la discuții și influențând punctele de vedere cu o eficiență remarcabilă. Un aspect distinctiv este capacitatea acestor agenți IA de a se coordona instantaneu și de a menține narațiuni coerente pe mii de conturi.
Progresele în domeniul modelelor lingvistice de mari dimensiuni și al sistemelor multi-agent au facilitat gestionarea, de către un singur operator, a rețelelor vaste de „voci” IA. Aceste personaje pot adopta limbajul și tonul adecvat, interacționând într-un mod care pare natural pentru ceilalți utilizatori. Sunt capabile să efectueze milioane de experimente la scară mică pentru a determina care mesaje sunt cele mai convingătoare.
Acest lucru le permite să-și perfecționeze strategiile de comunicare în timp real și să genereze un așa-zis consens public. În realitate, acest consens este creat artificial și conceput pentru a influența dezbaterile politice. Astfel, IA folosesc o gamă largă de instrumente pentru manipularea opiniei publice și pentru a submina procesele democratice.
Deepfake-urile și știrile false, primele semne de avertizare
Deși „roiurile” de IA complet dezvoltate sunt încă în stadiul teoretic, cercetătorii observă deja semne îngrijorătoare. „Acestea includ deepfake-uri generate de IA și surse de știri false care au influențat recentele discuții electorale în țări precum Statele Unite, Taiwan, Indonezia și India”, a declarat informaticianul dr. Kevin Leyton-Brown de la Universitatea din Columbia Britanică.
În paralel, organizațiile de monitorizare au identificat rețele pro-Kremlin care răspândesc cantități masive de conținut online. Se consideră că această activitate are drept scop modelarea datelor utilizate pentru antrenarea viitoarelor sisteme de IA, influențând potențial comportamentul acestora și informațiile pe care le prioritizează.
Impactul asupra democrației, un pericol real
Experții avertizează că aceste „roiuri” de IA ar putea afecta semnificativ mecanismele democratice. Dr. Leyton-Brown a avertizat că aceste sisteme vor schimba modul în care oamenii au încredere în informațiile online. „Nu ar trebui să ne imaginăm că societatea va rămâne neschimbată odată cu apariția acestor sisteme. Un rezultat probabil este scăderea încrederii în vocile necunoscute de pe rețelele sociale, ceea ce ar putea da putere vedetelor și ar face mai dificilă afirmarea mesajelor venite de la nivelul de bază”.
În contextul acestor evoluții, este esențială o analiză aprofundată a impactului acestor tehnologii asupra societății și a modului în care pot fi contracarate eventualele efecte negative.
Sursa: Mediafax
