Conform HotNews: China vede riscuri în modelele americane de inteligență artificială
Avertismentele cercetătorilor de la Anthropic, unul dintre principalii dezvoltatori americani de inteligență artificială, privind potențialul ca modelele tot mai puternice să scape de sub controlul uman și să ducă chiar la extincția speciei, au stârnit preocupări serioase în China. Autoritățile de la Beijing au început deja să pregătească măsuri pentru a gestiona aceste riscuri, în contextul în care SUA și China sunt principalii actori în cursa globală pentru dezvoltarea și adoptarea inteligenței artificiale.
Chen Yixin, ministrul chinez al securității de stat, a subliniat recentele modele americane avansate, precum Mythos de la Anthropic și GPT-5.5-Cyber de la OpenAI, ca fiind potențiale amenințări pentru infrastructura informațională critică a Chinei. El a cerut o consolidare accelerată a securității în domeniul inteligenței artificiale. Dezvoltatorii chinezi de AI au promovat modelele cu greutăți deschise („open-weight”), susținând că acestea permit echipelor de securitate cibernetică să le inspecteze și să le adapteze pentru scopuri defensive.
Diferența fundamentală între „open-weight” și „open source” constă în faptul că modelele „open-weight” publică doar anumiți parametri importanți, nu toate datele de antrenament. Cu toate acestea, ele permit descărcarea, executarea și personalizarea sistemelor, spre deosebire de modelele proprietare. Platforma Hugging Face a utilizat modelul GLM-5.2, dezvoltat de compania chineză Z.AI, pentru a analiza un atac cibernetic recent, sugerând utilitatea acestor modele în investigații digitale.
Autoritățile de la Beijing au semnalat riscul „pierderii controlului” asupra AI
Preocuparea autorităților chineze față de posibilitatea ca inteligența artificială să scape de sub controlul uman a fost semnalată explicit încă din septembrie 2024, într-un document-cadru privind siguranța AI, elaborat sub egida Administrației Chineze pentru Spațiul Cibernetic (CAC). Documentul prevedea scenariul în care o inteligență artificială ar putea dobândi resurse externe, să se autoreplice, să dezvolte conștiință de sine și să caute putere, intrând astfel în competiție cu umanitatea.
Versiunea extinsă a acestui cadru, publicată în septembrie 2025, a accentuat riscul unui „salt” brusc și neașteptat în inteligența AI, subliniind necesitatea unui principiu de guvernanță bazat pe „utilizarea de încredere” și „prevenirea pierderii controlului”. Experții au interpretat acest principiu ca o măsură de protecție împotriva amenințărilor existențiale pentru umanitate.
Avertisment de la cel mai înalt nivel din China
Aceste preocupări au fost reiterate și la cel mai înalt nivel politic din China. Președintele Xi Jinping a declarat în luna iulie, la Shanghai, că inteligența artificială ar trebui să „rămână întotdeauna sub controlul oamenilor”, accentuând importanța acordării unei atenții deosebite riscurilor intrinseci și derivate ale acestei tehnologii.
Sun Xiaobo, oficial de rang înalt din Ministerul chinez de Externe, a anunțat la o reuniune a Organizației Națiunilor Unite accelerarea cercetărilor privind o legislație mai amplă în domeniul AI. De asemenea, Sun Lei, reprezentantul permanent adjunct al Chinei la ONU, a îndemnat guvernele să abordeze cu prudență inteligența artificială militară, pentru a evita escaladarea conflictelor prin „erori strategice de calcul” sau o „cursă a înarmării”.
China, îngrijorată de riscurile specifice aduse de „agenții AI”
China a început să transpună aceste principii în reguli specifice pentru așa-numiții „agenți AI”, sisteme autonome capabile să îndeplinească sarcini complexe. În luna mai, autoritatea chineză de reglementare a spațiului cibernetic a emis orientări țintite pentru aceste sisteme, impunând dezvoltatorilor îmbunătățirea capacităților de detectare, intervenție și remediere a comportamentelor necorespunzătoare.
Orientările identifică riscuri de securitate precum „data poisoning”, manipularea algoritmilor și „pierderea controlului operațional”, stipulând că utilizatorii trebuie să dețină autoritatea finală de decizie în cazul acțiunilor autonome ale agenților. Deși China nu a propus supraveghetori independenți integrați în companiile de AI, standardele sale permit evaluări de siguranță realizate de terți și includ organisme externe de evaluare și cercetători în securitate pentru auditarea modelelor deschise.
Sursa: HotNews
