Conform Mediafax: Anthropic avertizează asupra unui risc major: inteligența artificială care se auto-îmbunătățește
Compania americană Anthropic, cunoscută pentru dezvoltarea chatbotului Claude, a publicat o analiză amplă în care detaliază unul dintre cele mai importante riscuri ale viitorului apropiat: apariția unui proces de „auto-îmbunătățire recursivă”. Acesta presupune ca o inteligență artificială să atingă un nivel de performanță suficient de înalt încât să fie capabilă să creeze și să optimizeze singură propriile versiuni viitoare.
Claude, motorul codului companiei
Potrivit datelor furnizate de Anthropic, aproximativ 80% din codul utilizat în prezent de companie este generat de Claude. Această transformare s-a petrecut într-un interval de timp extrem de scurt, având în vedere că la începutul anului 2025, majoritatea sarcinilor de programare erau executate de dezvoltatori umani. Nu doar cantitatea de cod a crescut spectaculos, ci și calitatea acestuia, ajungând să fie minim diferită față de cel scris de oameni, cu estimări că performanța AI ar putea depăși chiar și pe cea umană în cursul acestui an.
În paralel, Claude este implicat și în activități de cercetare. Afirmațiile Anthropic sugerează că au fost realizate deja proiecte de cercetare ghidate în mare parte de agenți AI, obținând rezultate superioare celor ale echipelor umane, chiar dacă au necesitat un timp de procesare mai îndelungat.
De la asistent la creator autonom
Conceptul care generează cele mai mari preocupări în cadrul companiei este cel de „auto-îmbunătățire recursivă”. Acest scenariu descrie o inteligență artificială capabilă să proiecteze și să antreneze versiuni superioare ale sale, inițiind un ciclu continuu de progres tehnologic.
Această idee se apropie de conceptul de „singularitate tehnologică”, dezbătut intens în mediile academice și tehnologice de mulți ani. Teoria presupune că momentul în care o inteligență artificială își poate accelera propria dezvoltare ar putea duce la un ritm al progresului care depășește capacitatea umană de înțelegere sau control. Deși Anthropic nu consideră acest scenariu inevitabil, susține că nu mai poate fi tratat ca o simplă speculație.
Direcții posibile pentru evoluția AI
Compania germană a conturat trei direcții principale de evoluție pentru inteligența artificială. Prima scenărio presupune o încetinire naturală a progresului tehnologic din cauza unor limitări hardware sau a dificultăților inerente modelelor actuale de AI, însă aceasta este considerată varianta cea mai puțin probabilă.
Al doilea scenariu, considerat cel mai realist, vizează apariția unor sisteme extrem de eficiente care vor remodela fundamental economia. Grupuri restrânse de oameni ar putea prelua sarcinile unor organizații mari, folosind agenți AI autonomi. În acest context, rolul uman ar rămâne important, dar într-o colaborare strânsă cu inteligența artificială.
Cel de-al treilea scenariu este și cel mai controversat, sugerând că dezvoltarea accelerată a AI ar putea diminua semnificativ rolul economic al oamenilor, într-o lume în care munca umană nu ar mai fi competitivă în comparație cu sistemele automate.
De ce cursa AI nu se va opri
Cu toate apelurile la prudență, Anthropic recunoaște că un acord global pentru încetinirea dezvoltării inteligenței artificiale este puțin probabil. Companiile tehnologice se află într-o competiție acerbă, iar țări precum SUA și China consideră AI o tehnologie strategică pentru securitatea națională. Orice entitate care ar încetini voluntar dezvoltarea riscă să piardă teren în fața concurenței.
În mod paradoxal, responsabilii de la Anthropic susțin că tocmai reputația lor de companie orientată spre siguranță îi obligă să continue investițiile și dezvoltarea. Ei argumentează că, dacă organizațiile considerate mai prudente ar încetini ritmul, avantajul ar putea fi preluat de actori mai puțin preocupați de riscurile asociate inteligenței artificiale. Analiza subliniază că procesul de dezvoltare a AI, odată început, este dificil de controlat.
Sursa: Mediafax
