X introduce noi restricții pentru instrumentul AI Grok, după scandaluri privind generarea de imagini explicite
Platforma X a anunțat recent implementarea unor măsuri tehnologice menite să limiteze utilizarea funcției de editare a imaginii, în special în cazul generării de conținut cu persoane reale în ipostaze provocatoare. Aceste restricții vizează, în primul rând, prevenirea unor abuzuri și protejarea drepturilor persoanelor, pe fondul unor controverse și scandaluri generate de funcțiile de inteligență artificială ale platformei.
Măsuri restrictive pentru utilizatori plătitori și conținut sensibil
Într-un comunicat publicat pe rețeaua X, compania a precizat că a introdus o serie de măsuri ce împiedică generarea sau editarea imaginilor cu persoane reale în haine revelatoare, precum bikini sau lenjerie intimă. Astfel, chiar și utilizatorii plătitori ai platformei vor fi restricționați în crearea unor astfel de conținuturi. De asemenea, decizia a fost luată pentru a crea un nivel suplimentar de protecție, astfel încât cei care încearcă să folosească instrumentul în mod abuziv să fie trași la răspundere.
„Am implementat măsuri tehnologice pentru a împiedica contul Grok să permită editarea imaginilor cu persoane reale în haine revelatoare, cum ar fi bikini. Această restricție se aplică tuturor utilizatorilor, inclusiv abonaților plătitori”, se arată în anunțul de pe platformă. De altfel, X a reiterat că această funcție va fi disponibilă exclusiv pentru abonații plătitori, într-un efort de a controla utilizarea și de a preveni abuzurile.
Contextul scandalurilor legate de deepfake și riscurile pentru siguranță
Decizia vine după câteva zile de la declarațiile procurorului șef din California, care a anunțat deschiderea unei investigații oficiale privind răspândirea de materiale deepfake cu conținut sexual, inclusiv imagini ale copiilor, generate de modele de inteligență artificială. Problematica generării de astfel de conținut devine, din ce în ce mai mult, o preocupare majoră pentru autorități și pentru companiile din domeniu, din cauza riscurilor de victimizare și de manipulare a imaginii.
În acest context, tehnologia AI avansează rapid, dar aduce cu ea și riscuri semnificative privind confidențialitatea și securitatea utilizatorilor. Platforma X a decis să răspundă acestor provocări prin introducerea unor restricții stricte, dar și prin afirmarea că măsurile sunt temporare și vor fi ajustate în funcție de evoluția legislației și a mediului social.
Critici internaționale și restricții legislative
Funcția de editare a imaginilor a generat reacții negative din partea liderilor mondiali, conturând o dezbatere despre limitele libertății de exprimare digitale și responsabilitățile companiilor din domeniul tehnologic. În weekend, Malaysia și Indonezia au devenit primele state care au interzis utilizarea instrumentului Grok, după ce s-a constatat că unele imagini create au fost modificate pentru a produce conținut explicite, uneori fără acordul persoanelor implicate.
Deși liderii de opinie ai platformei X și-au exprimat anterior sprijinul pentru libertatea de exprimare și pentru posibilitatea utilizatorilor de a folosi AI-ul în mod creativ, acum apar criticile din partea experților și a autorităților, care văd în aceste funcții o amenințare reală pentru siguranța publică și pentru drepturile individuale.
Perspectiva viitoare și provocările pentru platformă
Decizia de a limita accesul la anumite funcții ale platformei vine într-un moment în care problemele legate de manipulare și generare de conținut fals sau exploatativ sunt tot mai acute. X trebuie să echilibreze acum libertatea creativă cu responsabilitatea socială și legală, într-un context în care legislația privind conținutul digital și protecția datelor evoluează rapid.
Deși compania a declarat că va continua să ajusteze măsurile în funcție de context și de feedback-ul utilizatorilor, privirea rămâne ațintită spre o eventuală reglementare națională și internațională, menită să limiteze riscurile asociate tehnologiilor AI. În timp ce unele țări își intensifică controalele, la nivel global, discuția despre reglementarea și responsabilitatea platformelor de social media în gestionarea conținutului generat de inteligența artificială abia începe să capete contur.
