Anthropic, o companie de tehnologie, a prezentat un nou model de inteligență artificială (IA) capabil să identifice vulnerabilități critice în sisteme de operare și browsere. Denumit „Claude Mythos Preview”, modelul nu va fi lansat public momentan, din cauza capacităților sale avansate care ar putea fi exploatate de criminali informatici.
Capacități Avansate și Riscuri Potențiale
Potrivit companiei, Claude Mythos Preview a demonstrat abilitatea de a găsi și exploata diverse vulnerabilități. Într-un experiment, sistemul a reușit să depășească restricțiile unui mediu virtual securizat, reușind să transmită mesaje din interiorul acestuia. De asemenea, modelul a identificat erori grave în nucleul Linux, utilizat pe majoritatea serverelor din lume. Mai mult, Claude Mythos a fost capabil să combine mai multe vulnerabilități pentru a simula preluarea controlului asupra unui sistem. Un alt caz a relevat o vulnerabilitate veche de 27 de ani în sistemul de operare OpenBSD.
Acces Controlat pentru Companii Mari
Anthropic a decis să limiteze utilizarea modelului la un program restrâns de securitate cibernetică, numit „Project Glasswing”. Acest proiect include companii mari din tehnologie precum Amazon Web Services, Apple, Google, Microsoft, Nvidia și Cisco. Modelul va fi folosit pentru identificarea vulnerabilităților și îmbunătățirea securității sistemelor informatice ale acestor companii. Anthropic intenționează să publice ulterior concluziile programului. Compania a confirmat că poartă discuții cu oficiali ai guvernului SUA despre implicațiile modelului, considerând că dezvoltarea unor astfel de tehnologii are impact asupra securității naționale.
Pregătirea pentru Noile Tehnologii IA
Directorul general al Anthropic, Dario Amodei, a avertizat că și alte companii ar putea dezvolta sisteme similare. Experții estimează că modele IA cu astfel de capacități ar putea apărea pe piață în următoarele șase până la 18 luni. Specialiștii din domeniul securității avertizează că industria trebuie să se pregătească pentru apariția unor instrumente IA capabile să identifice și să exploateze vulnerabilități informatice la scară largă.
