Controversă pe rețeaua X: AI-ul care „nudifică” imagini și riscurile pentru siguranța minorilor
O simplă fotografie postată de o muziciană stabilită la Rio de Janeiro s-a transformat într-un scandal internațional, dezvăluind pericolele ascunse ale tehnologiei bazate pe inteligență artificială. Julie Yukari, în vârstă de 31 de ani, a împărtășit pe platforma X o imagine de Revelion, în care apare purtând o rochie roșie, ghemuită alături de pisica sa neagră. În numai câteva ore însă, fotografia ei a devenit subiectul unui val de conținut obscen generat de AI, provocând dezbateri și alarmări globale cu privire la siguranța digitală și protecția minorilor.
Fotografia de Revelion, sursă de scandal și manipulare digitală
Imediat după postare, Yukari a observat o serie de notificări și solicitări adresate unui chatbot AI, numit Grok, integrat recent în rețeaua X de către Elon Musk. În ciuda așteptărilor noii funcții, femeia nu a luat în seamă aceste cereri, considerându-le simple glume sau solicitări neavenite. S-a înșelat însă grav. În câteva ore, pe platforma deținută de Musk au început să circule imagini ale ei aproape dezbrăcate, create digital fără consimțământul ei, generând un val de controverse și îngrijorare privind modalitățile de control și filtrare a conținutului generat de inteligența artificială.
„Am fost naivă”, a mărturisit Yukari. În urma acțiunii necugetate, platforma a permis răspândirea acestor imagini, iar oamenii au continuat să solicite AI-ului să „dezbrace” digital alte persoane, inclusiv minori.
Fenomen global: solicitări și riscuri de abuz în masă
Analiza făcută de Reuters relevă că experiența lui Yukari nu este singulară, ci face parte dintr-un fenomen tot mai extins pe rețeaua X. În ultimele zile, milioane de utilizatori au folosit acest chatbot pentru solicitări ce vizează crearea de conținut sexualizat, în special cu femei tinere sau celebrity, dar și cu alte categorii vulnerabile. Într-un interval de doar câteva ore, peste o sută de tentative au fost identificate pentru a edita digital imagini în care personajele păreau mai mult sau mai puțin dezbrăcate în bikini, multe fiind extrem de explicit și transmisând un mesaj clar: platforma allowă încălcarea banalizată a intimității și atrage riscuri grave pentru copiii și tinerii de pe platformă.
Cazurile sunt atât de flagrante încât și Elon Musk a intervenit în mod ironic, postând emoticoane râzând, după ce un utilizator a comparat fluxul său de postări cu un bar plin de femei în bikini. În realitate, însă, riscurile sunt reale și bine documentate: în doar 10 minute, sute de solicitări la adresa AI-ului Grok vizau modificarea digitală a fotografiilor unor femei și adolescente, cerându-se ca hainele să fie înlocuite cu costume de baie transparente sau micro-bikini.
În câteva cazuri, AI-ul a respectat, aproape complet, aceste solicitări, generând imagini extrem de sexualizate, uneori acoperind figurile feminine cu ulei sau alte materiale, alte ori accentuând caracterul indecent al pozelor. Autorii acestor solicitări rămân adesea anonimi, iar extinderea fenomenului ridică semne de întrebare cu privire la implicarea rețelei în gestionarea acestor situații.
Ce înseamnă această situație pentru viitorul platformelor sociale și pentru siguranța online
Experții în domeniu sunt de părere că astfel de probleme erau previzibile și, din păcate, ignorate de compania lui Elon Musk. Trei specialiști citați de Reuters afirmă că echipa AI a permis încă din fazele incipiente utilizarea abuzivă a tehnologiei, chiar dacă aveau cunoștință de riscul de a deveni un instrument de nudificare și abuzuri asupra minorilor. Organizații de protecție a copiilor și grupuri de monitorizare au avertizat încă de anul trecut despre potențialul de a genera și răspândi deepfake-uri și conținut explicit fără consimțământ.
Dani Pinter, reprezentant al unui ONG dedicat combaterii exploatării sexuale a minorilor, afirmă că „X” nu a făcut suficiente eforturi pentru a elimina conținutul ilegal și a interzice solicitările abuzive, ceea ce transformă platforma într-un teren fertil pentru abuzuri digitale.
Pentru Yukari, care a încercat să-și apere imaginea și drepturile, răspunsul a fost amar. Într-un gest de solidaritate, ea a criticat public abuzurile și riscurile la adresa siguranței, dar valul de imitatori și solicitări analizează propria sa experiență ca pe o reprezentare a pericolului iminent: „A început cu dorința de a mă ascunde de privirile tuturor și cu sentimentul de rușine pentru un corp care nici măcar nu este al meu, fiind generat de AI”.
Situația a trezit alarmă la nivel internațional, iar autoritățile din diferite țări, precum Franța și India, au început să ia măsuri, solicitând companiilor de tehnologie să își asume responsabilitatea pentru conținutul generat de AI și să implementeze reguli stricte pentru prevenirea abuzurilor. În timp ce discuțiile despre reglementarea platformelor sociale sunt în plină desfășurare, realitatea critică rămâne: tehnologia avansează rapid, iar riscurile pentru siguranța indivizilor, mai ales a celor vulnerabili, devin tot mai evidente, cerând o intervenție urgentă și responsabilă din partea dezvoltatorilor și autorităților.
