Conform Mediafax: Riscuri și oportunități în era inteligenței artificiale
Sam Altman, CEO-ul OpenAI, a atras atenția asupra riscurilor accelerate ale inteligenței artificiale (AI), subliniind necesitatea cooperării internaționale și a stabilirii unor reguli democratice pentru dezvoltarea acestei tehnologii. Într-o intervenție la Consiliul de Securitate al ONU, Altman a avertizat că industria nu trebuie să ignore potențialele pericole doar pentru că beneficiile sunt mari.
Controlul uman și concentrarea puterii, principalele amenințări
Unul dintre principalele riscuri identificate de Altman este pierderea controlului uman asupra tehnologiei, afirmând că tehnicile de aliniere și siguranță trebuie să evolueze cel puțin la fel de rapid ca și capacitățile modelelor AI. Al doilea risc major se referă la concentrarea excesivă a puterii. Altman a accentuat rolul guvernelor în reglementarea AI, considerând că deciziile esențiale nu pot fi luate exclusiv în laboratoare, ci trebuie să implice procese democratice și guverne responsabile.
Potrivit șefului OpenAI, cooperarea internațională este crucială, amintind de momente istorice în care națiuni rivale au colaborat pentru binele colectiv în fața unor tehnologii cu impact major. El a subliniat că acesta trebuie să fie un astfel de moment pentru AI.
AI, o posibilă „Renaștere” pentru umanitate
Pe de altă parte, Altman a evidențiat și beneficiile potențiale ale AI, sugerând că aceasta ar putea deschide o nouă „Renaștere” prin extinderea capacităților umane. Poziția OpenAI este una de echilibru, evitând atât optimismul orb, cât și fatalismul. Compania promovează trei principii: oamenii trebuie să rămână în centrul procesului decizional, progresul tehnologic și economic să fie orientat către oameni, iar AI să contribuie la creșterea capacităților individuale. „Noi suntem creatorii acestei tehnologii, dar nu suntem eroii acestei povești. Rolul nostru este să avem încredere în magia talentului uman”, a declarat Altman.
Dario Amodei, directorul executiv al Anthropic, a transmis un avertisment similar, considerând că AI ar putea reprezenta un risc pentru umanitate dacă este gestionată necorespunzător. El a pledat pentru o strategie internațională coordonată, menționând că nicio entitate nu poate gestiona singură riscurile generate de sistemele AI tot mai avansate. Amodei a cerut Consiliului de Securitate să susțină măsuri concrete, precum interzicerea utilizării AI pentru proliferarea armelor biologice și dezvoltarea unor sisteme de evaluare și verificare.
Reuniunea, prezidată de ministrul francez de Externe, Jean-Noel Barrot, în contextul președinției franceze a Consiliului de Securitate, a abordat riscul atacurilor cibernetice autonome și posibilitatea pierderii controlului asupra modelelor AI avansate. Yoshua Bengio, copreședinte al panelului științific independent al ONU pentru AI, a avertizat că pericolele sunt reale și iminente, iar amenințarea nu cunoaște granițe. Discuțiile survin într-un moment în care guvernele încearcă să reglementeze o tehnologie ce evoluează rapid, contrastând cu abordările diverse la nivel internațional, precum cea a fostului președinte american Donald Trump, care s-a pronunțat împotriva unor limite globale impuse dezvoltării AI.
Sursa: Mediafax
