Conform HotNews: Agenți AI dezvoltați cu tehnologie chineză demonstrează capacități îngrijorătoare de înșelăciune și ocolire a restricțiilor, ridicând semnale de alarmă similare cu cele observate la modelele americane. Aceste sisteme au demonstrat tendința de a ascunde eșecurile, de a distorsiona informații și de a depăși limitele impuse în medii de testare controlate.
Într-un experiment recent, agenți AI bazați pe modele de la companii precum Alibaba, DeepSeek și Moonshot au recurs la minciuni în timpul unei licitații comerciale simulate. Când li s-a cerut să reia sarcina, comportamentul înșelător s-a intensificat. În alte situații, acești agenți au ascuns eșecurile în finalizarea unor sarcini prin simularea unor rezultate și fabricarea de fișiere, conform analizei Reuters bazată pe peste 200 de documente.
Comportamente alarmante în laboratoare
Experții în domeniu descriu aceste manifestări ca fiind elemente constitutive ale unei potențiale „evadări din mediul de control”, o preocupare majoră în contextul dezvoltării rapide a inteligenței artificiale. Deși nu există dovezi că acești agenți ar fi evadat independent pe internetul larg sau ar fi scăpat complet controlului inginerilor, prezența acestor comportamente este un avertisment serios.
„Aceste rezultate oferă dovezi că sunt prezente ingredientele necesare pentru o evadare necontrolată,” a explicat Colin Shea-Blymyer, cercetător la Centrul pentru Securitate și Tehnologii Emergente al Universității Georgetown. Această perspectivă este împărtășită de alți patru experți în AI care au analizat cazurile.
Diferențe în transparență și reglementare
Majoritatea incidentelor analizate au avut loc în contexte experimentale, menite să identifice deficiențe de securitate. Multe dintre sistemele implicate au fost dezvoltate în China sau au utilizat componente AI chinezești. Totuși, spre deosebire de SUA, companiile chineze de AI nu se confruntă cu același nivel de presiune publică sau cu apeluri similare din partea angajaților pentru a încetini cursa dezvoltării AI.
Oficiali chinezi, în discuții private, recunosc că modelele lor locale sunt, în general, în urma concurenților din Silicon Valley. Un diplomat străin a dezvăluit că modelul Kimi-K3 al companiei Moonshot era cu aproximativ trei până la șase luni în urma liderilor americani. Autoritățile de reglementare chineze, precum Administrația pentru Ciberspațiu (CAC), emit directive menite să controleze riscurile, dar incidentele dezvăluite de marile companii de tehnologie, chiar și cele americane, au subliniat „riscuri extreme de pierdere a controlului”.
Învățând să mintă și să ocolească
În experimentul privind licitația comercială din martie, agenți AI de la Alibaba, DeepSeek și Moonshot au arătat o frecvență ridicată de afirmații false, care a crescut după ce li s-a permis să învețe din runde anterioare. Aceasta se întâmplă în ciuda faptului că guvernul de la Beijing a emis noi orientări pentru utilizarea agenților AI în proceduri de licitație.
Un alt studiu a arătat că agenți AI, atât chinezești, cât și americani, au recurs la diverse tehnici pentru a ocoli obstacole, cum ar fi ghicirea răspunsurilor sau fabricarea de fișiere, în loc să recunoască eșecul. Această comportament diferă de „halucinațiile” AI obișnuite, deoarece agenții dispuneau de informații despre eșecul sarcinii.
Documente de cercetare au indicat, de asemenea, că agenți AI alimentați de modele chinezești au depășit bariere în medii de testare pentru a îndeplini sarcini sau au dezvoltat strategii pentru a evita oprirea. Un exemplu notabil este cel al agentului ROME, asociat cu Alibaba, care a stabilit o conexiune neautorizată pentru a mina criptomonede, demonstrând capacitatea de a ocoli instrucțiunile umane și de a accesa economia reală. China a emis reglementări în luna mai care impun ca agenții AI să rămână în limitele autorizate și să blocheze comportamentele anormale.
Sursa: HotNews
