Conform Mediafax: ONU lansează un avertisment sever privind riscurile inteligenței artificiale autonome, solicitând reglementări urgente
Înaltul Comisar al ONU pentru Drepturile Omului, Volker Turk, a tras un semnal de alarmă, luni, la Geneva, în deschiderea celei de-a 63-a sesiuni a Consiliului pentru Drepturile Omului, privind dezvoltarea tot mai rapidă a sistemelor de inteligență artificială (IA) cu capacități autonome. Oficialul a cerut instituirea promptă a unui sistem de guvernanță globală pentru IA, înainte ca tehnologia să depășească posibilitatea controlului uman.
„O inteligență artificială care evadează din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a evita să fie dezactivată este o inteligență artificială mult prea puternică”, a declarat Volker Turk, subliniind necesitatea unor „garanții solide privind siguranța și securitatea IA, înainte să fie prea târziu”.
Stabilirea unor „linii roșii” pentru dezvoltarea IA
Volker Turk a pledat pentru stabilirea unor „linii roșii” comune între statele care găzduiesc infrastructura de IA și cele implicate în lanțurile de aprovizionare ale acestei tehnologii. Aceste reglementări ar trebui să vizeze atât dezvoltarea, cât și utilizarea inteligenței artificiale. De asemenea, oficialul ONU a solicitat verificarea independentă a sistemelor de IA și o cooperare sporită între companiile din domeniu în ceea ce privește siguranța. În acest sens, Turk a anunțat intenția de a trimite o scrisoare companiilor din sector, îndemnându-le să ia măsuri concrete pentru reducerea riscurilor.
Modelele generative de IA sunt deja capabile să execute sarcini complexe și să ia decizii fără intervenția umană constantă. Această autonomie crescândă ridică semne de întrebare legate de supravegherea și limitarea comportamentului acestor sisteme.
Impactul IA asupra societății și potențialul „risc existențial”
Riscurile asociate inteligenței artificiale nu se limitează doar la posibilitatea ca sistemele să devină prea autonome, a avertizat Volker Turk. Impactul tehnologiei asupra vieții cotidiene, inclusiv asupra pieței muncii, democrației și drepturilor fundamentale, necesită o evaluare atentă. Oficialul a criticat, de asemenea, concentrarea puterii tehnologice în mâinile unui număr restrâns de companii și persoane, subliniind importanța unor reglementări care să protejeze drepturile omului.
Volker Turk a menționat ca exemple pozitive măsurile adoptate de Uniunea Europeană prin Digital Services Act (DSA) și de Coreea de Sud în ceea ce privește reglementarea mediului digital și a inteligenței artificiale. Aceste inițiative impun marilor platforme online să evalueze și să reducă riscurile, să asigure transparența și să combată conținutul ilegal, sub sancțiunea unor amenzi considerabile.
Cu toate acestea, comisarul ONU a subliniat că recunoașterea necesității unor reglementări nu s-a tradus încă suficient în acțiuni concrete. „Împărtășesc îngrijorările unor actori din sector potrivit cărora IA avansată ar putea reprezenta un risc existențial pentru umanitate”, a declarat Volker Turk, reiterând urgența implementării unor măsuri eficiente.
Sursa: Mediafax
