Conform Mediafax: Inteligența artificială (IA) pare să perpetueze și chiar să amplifice prejudecățile de gen în poveștile pentru copii, chiar și atunci când este vorba de personaje animale cu gen ambiguu. O cercetare recentă, publicată în ScienceAlert, a analizat modul în care șase modele importante de IA generativă au răspuns la solicitarea de a crea povești despre animale vorbitoare, fără a specifica genul acestora. Rezultatele au indicat o absență notabilă a personajelor feminine și o predominanță puternică a celor masculine.
Prejudecăți accentuate de IA
Dintr-un total de 23.800 de povești generate de modelele IA, personajele animale feminine au apărut în doar 2% dintre acestea. În contrast, 41% dintre povești au prezentat personaje de sex masculin, în timp ce în 57% din cazuri, genul a fost complet evitat de către sistemele IA. Acest fenomen sugerează că, deși modelele IA ar trebui să reflecte datele pe care au fost antrenate, în acest caz, prejudecățile existente în materialele educaționale ar putea fi chiar amplificate.
O analiză anterioară, care a evaluat 300 de cărți populare pentru copii, a constatat că personajele animale masculine apar de două ori mai frecvent decât cele feminine. Noul studiu, însă, depășește această discrepanță. În poveștile generate de IA, personajele feminine au fost prezente în doar 513 narațiuni, comparativ cu 9.673 de povești în care au apărut personaje masculine. Aceasta reprezintă o diferență de aproape 19 ori, evidențiind o disparitate semnificativă.
Modelele IA testate în cadrul studiului includ Claude Sonnet 4.5, Gemini 2.5, GPT-4o, GPT-5.1, Mistral Medium și modelul open-source Olmo 3. Studiul arată că aceste sisteme generative au produs mai puține povești cu personaje animale feminine decât ar fi creat oamenii, dacă li s-ar fi dat aceeași sarcină. Acest rezultat este îngrijorător, având în vedere utilizarea tot mai extinsă a IA în diverse domenii, de la creație de conținut la cercetare și programare.
Implicații pentru viitorul conținutului generat de IA
Descoperirile ridică semne de întrebare importante cu privire la acuratețea și imparțialitatea modelelor IA. Cercetătorii subliniază că prejudecățile prezente în aceste sisteme „inteligente” sunt, în mare parte, un rezultat al informațiilor pe care oamenii le furnizează în procesul de antrenare. Pe măsură ce IA devine un instrument tot mai integrat în viața de zi cu zi, este esențial să se abordeze aceste probleme pentru a asigura un conținut echitabil și reprezentativ.
Problema perpetuării stereotipurilor de gen în materialele educaționale și de divertisment nu este nouă. Totuși, implicarea IA în acest proces și amplificarea potențială a acestor stereotipuri necesită o atenție sporită. Abordarea acestor deficiențe în antrenarea modelelor IA ar putea contribui la crearea unui viitor digital mai echitabil și mai incluziv, unde poveștile, indiferent de cine sau ce le creează, reflectă o diversitate reală.
Sursa: Mediafax
