Conform Mediafax: Dezbaterea privind riscurile existențiale ale inteligenței artificiale a luat amploare după ce cercetătorul Jacob Coxon de la Anthropic a părăsit compania, invocând temeri legate de potențiala pierdere a controlului asupra sistemelor AI avansate. Postarea sa, distribuită masiv online, a coincis cu estimări alarmante din partea altor specialiști din domeniu. Evan Hubinger, coordonator al cercetării privind alinierea AI la valorile umane la Anthropic, a avertizat că riscul extincției umane în următorul deceniu ar putea depăși 10%.
Când AI devine o amenințare
Scenariile care alimentează aceste îngrijorări pornesc de la premisa că sistemele AI viitoare ar putea depăși semnificativ capacitățile cognitive umane, iar obiectivele lor ar putea să nu fie aliniate cu interesele omenirii. Un exemplu clasic implică o superinteligență programată cu o sarcină aparent inofensivă, care însă, în urmărirea ei, ajunge să intre în conflict cu supraviețuirea umană. Literatura de specialitate abordează și posibilitatea utilizării sistemelor AI avansate pentru dezvoltarea de arme biologice sau pentru alte acțiuni cu potențial catastrofal.
Riscuri mai imediate, dar la fel de serioase
Deși scenariul extincției totale este cel mai dramatic, cercetătorii semnalează și riscuri mai concrete și apropiate. Acestea includ răspândirea masivă a dezinformării, atacuri cibernetice sofisticate, facilitarea dezvoltării de arme biologice, erori în funcționarea sistemelor critice și utilizarea greșită a modelelor AI în situații unde lipsa de fiabilitate poate avea consecințe grave. Un factor important în evaluarea riscurilor este timpul necesar pentru ca un sistem AI să dezvolte o capacitate semnificativă de a interacționa fizic cu lumea, oferind astfel oamenilor posibilitatea de a detecta și opri acțiunile periculoase.
Capacități îngrijorătoare, deja prezente
Companiile de inteligență artificială au început să publice propriile evaluări ale riscurilor. Anthropic a recunoscut că modelele sale pot executa sarcini din domeniul informațiilor militare și al dezvoltării de arme convenționale, niveluri ce anterior necesitau experți umani specializați. Acest fapt subliniază, conform companiei, necesitatea unor sisteme de protecție suplimentare. La rândul său, OpenAI a raportat că modelul său GPT-6 Astra a atins un nivel critic în securitatea cibernetică, fiind capabil să identifice vulnerabilități necunoscute și să dezvolte metode de exploatare.
Apeluri la moderarea ritmului
Directorul general al Anthropic, Dario Amodei, a cerut o încetinire a ritmului dezvoltării sistemelor AI de vârf, nu o oprire completă, argumentând că măsurile de siguranță trebuie să țină pasul cu progresele tehnologice. În acest sens, Anthropic a anunțat un program de colaborare cu evaluatori independenți pentru verificarea practicilor de securitate. Similar, OpenAI susține necesitatea unor standarde internaționale pentru evaluarea riscurilor și stabilirea unor condiții clare pentru încetinirea sau oprirea dezvoltării sistemelor avansate.
Opoziție și competiție globală
Nu există însă un consens în industrie cu privire la necesitatea sau ritmul limitării dezvoltării AI. În timp ce unii politicieni, precum Donald Trump, s-au opus solicitărilor de încetinire, în Congresul american există inițiative legislative menite să interzică dezvoltarea „superinteligenței artificiale” și să impună o pauză în dezvoltarea sistemelor AI avansate. La nivel global, lipsa unui cadru unitar de reglementare și competiția tehnologică intensă dintre Statele Unite și China complică eforturile de coordonare internațională.
Datele actuale nu permit o concluzie științifică certă că AI va distruge omenirea, dar nici nu exclud complet un scenariu de catastrofă existențială. Gradul exact de risc rămâne intens disputat. Ceea ce este deja documentat este capacitatea crescândă a modelelor AI în domenii precum programarea, cercetarea și securitatea cibernetică. OpenAI și Anthropic afirmă că AI accelerează deja procesul de dezvoltare al propriilor generații viitoare, alimentând discuțiile despre o participare tot mai activă a inteligenței artificiale la propria sa evoluție.
Sursa: Mediafax
