OpenAI a anunțat introducerea unui sistem de predicție a vârstei pentru utilizatori, menit să stabilizeze dacă un cont aparține unui minor. Noul instrument utilizează inteligența artificială pentru a identifica, în timp real, dacă un utilizator are sub 18 ani, aplicând automat măsuri de protecție suplimentare, menite să protejeze tinerii de conținut sensibil și potențial dăunător. În această eră digitală tot mai complexă, diferențierea și protejarea utilizatorilor minori devin o prioritate pentru platformele globale, iar OpenAI pare să facă un pas important în această direcție.
În practică, sistemul de predicție funcționează prin analizarea unei game largi de semnale, precum durata de existență a contului, subiectele abordate în conversații, momentele din zilele utilizatorului când se conectează și vârsta declarată. În cazul în care algoritmul estimează că un cont aparține unui minor, ChatGPT va aplica automat măsuri speciale, numite de companie „măsuri de protecție suplimentare”. Acestea sunt concepute pentru a reduce expunerea minorilor la conținut sensitiv și pot include filtre mai stricte pentru anumite subiecte sau mesaje, deși OpenAI nu a specificat exact natura acestor intervenții.
Europarlamentarii și autoritățile europene și-au exprimat recent tot mai mult preocuparea asupra impactului pe care tehnologia AI îl are asupra sănătății mentale a adolescentilor. În contextul în care mai multe cazuri de sinucideri în rândul tinerilor din Statele Unite, legați de relații fictive cu chatbot-uri AI, au atras atenția publică, reglementările pentru protecția minorilor în mediul online devin din ce în ce mai stricte. În acest sens, Bruxelles-ul intenționează să stabilească reguli clare privind accesul tinerilor la serviciile digitale, inclusiv platformele sociale și interfețele de inteligență artificială.
OpenAI se adaptează rigorilor europene, ce depășesc adesea normele din alte regiuni în ceea ce privește colectarea și procesarea datelor personale. Ca răspuns, compania a anunțat că va lansa, pentru piața europeană, o versiune a sistemului de predicție cu câteva săptămâni întârziere față de lansarea globală. Această abordare, explicată ca fiind una de adaptare la specificul legislativ local, are și rolul de a evita eventualele sancțiuni pentru nerespectarea normelor de protecție a datelor și de a asigura un mediu digital mai sigur pentru tineri.
În același timp, preocupările privind sănătatea mentală a adolescenților persistă. Specialiștii atrag atenția asupra riscurilor expunerii îndelungate la anumite tipuri de conținut online, care pot avea efecte negative asupra dezvoltării emoționale și psihologice a tinerilor. De aceea, măsurile de filtrare automate și limitarea anumitor funcționalități devin un pas natural pentru platformele de AI, inclusiv pentru cele de conversație precum ChatGPT. La nivel mondial, discuțiile despre reglementarea utilizării IA și despre protejarea minorilor devin tot mai intense, iar OpenAI pare să absorbă această presiune, adaptându-se de fiecare dată la cerințele legislative.
Pe măsură ce tehnologia evoluează rapid și devine tot mai prezentă în viețile adolescenților, perspectiva pe termen lung indică spre o nevoie crescută de reglementare și responsabilitate. În această direcție, lansarea unui sistem de predicție a vârstei, cu măsuri de protecție automate și adaptate particularităților legislative europene, reprezintă un prim pas în crearea unui mediu digital mai sigur pentru tineri, dar și o provocare în gestionarea riscurilor sociale și mentale asociate utilizării inteligenței artificiale.
