Startup-ul Anthropic, specializat în inteligența artificială, lansează „Project Glasswing” împreună cu giganți tehnologici precum Amazon și Microsoft, pentru a testa un model AI cu capacități avansate de securitate cibernetică.
Un Model AI Promițător, dar cu Riscuri
Inițiativa, anunțată marți, va permite partenerilor selectați să utilizeze modelul „Claude Mythos Preview”, încă nelansat public, pentru activități defensive în domeniul securității informatice. Printre parteneri se numără și CrowdStrike, Palo Alto Networks, Google și Nvidia. Scopul este de a utiliza modelul pentru a identifica vulnerabilități în sistemele informatice și de a dezvolta metode de apărare eficiente.
Anunțul a venit după ce revista Fortune a relatat despre testarea modelului Claude Mythos, care se spune că are capacități avansate, dar ridică și anumite riscuri de securitate. Informațiile au dus la scăderi ale acțiunilor unor companii de securitate cibernetică. Tema atacurilor informatice bazate pe inteligență artificială a dominat și conferința RSA, dedicată securității cibernetice, unde specialiștii au discutat despre creșterea numărului de atacuri generate de AI.
Identificarea Vulnerabilităților și Parteneriate Strategice
Modelul Mythos Preview a identificat „mii” de vulnerabilități majore în sisteme de operare, browsere web și alte programe software, conform companiei Anthropic. Partenerii implicați în proiect vor folosi modelul pentru activități defensive, iar rezultatele vor fi împărtășite cu industria. Compania va oferi credite de utilizare în valoare de până la 100 de milioane de dolari, precum și donații de 4 milioane de dolari pentru proiecte open-source dedicate securității.
Anthropic a subliniat că obiectivul final este ca utilizatorii să poată implementa în siguranță modele din aceeași clasă cu Mythos la scară largă. Startup-ul se află în discuții continue cu guvernul SUA cu privire la capabilitățile acestui model. Potrivit companiei, anul trecut hackeri au exploatat vulnerabilități ale sistemului Claude pentru a ataca aproximativ 30 de organizații globale.
Un studiu realizat de IBM și Palo Alto Networks arată că 67% dintre directorii intervievați au fost vizați de atacuri bazate pe inteligență artificială în ultimul an.
