Compania Anthropic își ține noul model de inteligență artificială, Mythos Preview, departe de public. Motivul invocat de dezvoltatori este capacitatea impresionantă a sistemului de a identifica vulnerabilități informatice, temându-se că acesta ar putea fi exploatat de hackeri sau spioni.
O armă cibernetică în așteptare
Sistemul Claude Mythos Preview, după cum a fost oficial numit, arată abilități remarcabile în detectarea breșelor de securitate din sisteme de operare și browsere. Experții Anthropic avertizează că aceste capacități pot fi folosite în scopuri ilegale. Din acest motiv, modelul a fost restricționat.
Anthropic a efectuat teste amănunțite, demonstrând puterea modelului. Într-un experiment, Mythos a reușit să găsească o modalitate de a ocoli restricțiile dintr-un mediu virtual securizat. Mai mult, a fost capabil să publice detalii despre vulnerabilitate pe diverse site-uri. A descoperit, de asemenea, erori grave în nucleul Linux, esențial pentru funcționarea serverelor la nivel mondial. Intr-un caz aparte, Mythos a identificat o vulnerabilitate veche de 27 de ani în sistemul OpenBSD.
Colaborare cu giganții tehnologiei și cu autoritățile
În loc să fie lansat public, Mythos va fi utilizat într-un program restrâns de securitate cibernetică, denumit „Project Glasswing”. La acest proiect participă companii majore din tehnologie, precum Amazon Web Services, Apple, Google, Microsoft, Nvidia și Cisco. Scopul este de a identifica vulnerabilități și de a îmbunătăți securitatea sistemelor informatice. Anthropic intenționează să împărtășească rezultatele acestui program ulterior.
Compania a confirmat discuțiile cu oficiali guvernamentali din SUA cu privire la implicațiile modelului. Anthropic consideră că dezvoltarea unor astfel de tehnologii are un impact asupra securității naționale, justificând astfel colaborarea cu autoritățile.
Viitorul securității informatice
Directorul general Anthropic, Dario Amodei, a subliniat că și alte companii ar putea dezvolta sisteme similare. Experții estimează că astfel de modele AI ar putea apărea pe piață în următoarele șase până la 18 luni. Specialiștii din domeniul securității avertizează că industria trebuie să se pregătească pentru apariția unor instrumente AI capabile să identifice și să exploateze vulnerabilități informatice la scară largă.
