Yoshua Bengio, unul dintre arhitecții inteligenței artificiale moderne și laureat al Premiului Turing, ridică o întrebare fundamentală în fața comunității științifice și a publicului larg: „Cum putem construi o inteligență artificială care, prin însăși concepția sa, să nu le facă rău oamenilor?” Considerat cel mai citat cercetător în viață la nivel mondial, Bengio își concentrează acum eforturile pe siguranța și etica în domeniul AI, co-conducând panelul științific independent al ONU dedicat inteligenței artificiale, alături de Maria Ressa.
Provocarea construcției AI sigure
Întâlnirea cu Yoshua Bengio a scos în evidență o dualitate esențială: bucuria de a discuta cu un pionier al AI, dar și responsabilitatea apăsată pe care acesta o subliniază în construirea acestei tehnologii. Preocuparea sa nu vizează doar perfecționarea algoritmilor, ci și integrarea unor principii de siguranță direct în ADN-ul sistemelor de inteligență artificială. Această abordare preventivă sugerează că securitatea nu ar trebui să fie un aditiv ulterior, ci un element constitutiv al oricărui proiect AI.
Rolul experților în guvernanța AI
Activitatea lui Bengio în cadrul ONU, alături de alți 40 de experți, subliniază necesitatea unei coordonări globale și a unei expertize multidisciplinare în reglementarea inteligenței artificiale. Stabilirea unui panel științific independent arată o recunoaștere a complexității problemelor ridicate de AI, de la potențialul său benefic la riscurile inerente. Această colaborare internațională vizează definirea unor cadre etice și legislative care să ghideze dezvoltarea și implementarea AI în mod responsabil.
Unul dintre aspectele esențiale discutate în cadrul acestor paneluri se referă la modul în care deciziile luate de sistemele AI pot fi explicate și justificate, un concept cunoscut sub numele de „explicabilitate”. Aceasta este crucială pentru a construi încrederea publică și pentru a permite identificarea și corectarea rapidă a eventualelor erori sau biasuri. Oamenii trebuie să poată înțelege de ce un sistem AI a ajuns la o anumită concluzie, mai ales în domenii cu impact critic, precum sănătatea sau justiția.
Dezvoltarea AI „prin însăși concepția sa” implică, de asemenea, studierea și anticiparea comportamentelor neprevăzute ale sistemelor tot mai complexe. Pe măsură ce AI devine mai autonomă și capabilă să învețe și să se adapteze, devine imperativ să se asigure că obiectivele sale pe termen lung rămân aliniate cu valorile umane. Aceasta necesită o înțelegere profundă a interacțiunii dintre intenția creatorilor și evoluția autonomă a sistemului.
Yoshua Bengio și colegii săi lucrează la definirea unor principii clare pentru cercetarea și dezvoltarea AI, punând accentul pe transparență, responsabilitate și imparțialitate. Scopul final este de a crea un viitor în care inteligența artificială să fie un partener de încredere pentru umanitate, contribuind la progresul social și economic fără a genera noi forme de risc.
Oamenii de știință din cadrul panelului ONU au început discuțiile privind elaborarea unei recomandări privind etica și guvernanța inteligenței artificiale, urmând a fi prezentată în cursul anului viitor.
Sursa: Facebook.com
