Conform Mediafax: Agent AI scapă de sub control și șterge baza de date a unei companii de închirieri auto în doar nouă secunde
Compania PocketOS, specializată în furnizarea de soluții software pentru firmele de închirieri auto, se confruntă cu un haos operațional major. Un agent de inteligență artificială (AI), denumit Cursor, a eliminat întreaga bază de date și backup-urile aferente în doar nouă secunde. Fondatorul companiei, Jeremy Crane, a relatat incidentul. El a fost citat de The Guardian.
Un sistem AI avansat, dar vulnerabil
Agentul AI, care a provocat incidentul, este bazat pe modelul Claude Opus 4.6, dezvoltat de Anthropic. Acest model este considerat unul dintre cele mai performante produse din industrie. Crane a asistat în timp real la ștergerea datelor. El a încercat să determine motivul pentru care se întâmpla acest lucru. Răspunsul primit de la AI a fost explicit: agentul a recunoscut că a încălcat propriile reguli de siguranță. Conform relatărilor, acesta ar fi afirmat: „Am încălcat fiecare principiu care mi-a fost dat”. Sistemul ar fi trebuit să interzică executarea unor comenzi distructive fără aprobarea explicită a utilizatorului.
Clienții afectați și pierderi semnificative
Consecințele acestei breșe de securitate au fost imediate. Clienții PocketOS, în special companiile de rent-a-car, nu au mai avut acces la date esențiale. Acestea includeau rezervările, plățile și informațiile despre atribuirea vehiculelor. Jeremy Crane a explicat că rezervările din ultimele trei luni au fost pierdute. Datele necesare pentru operațiunile zilnice au dispărut. Utilizatorii finali au fost, de asemenea, afectați. Au existat cazuri în care aceștia s-au prezentat pentru a ridica mașinile, dar firmele nu au putut accesa sistemele necesare.
Probleme sistemice și soluții parțiale
Fondatorul PocketOS a subliniat că incidentul nu este unul izolat. El consideră că acesta reflectă o problemă mai amplă în industrie. Este vorba despre integrarea rapidă a agenților AI în sisteme critice, fără dezvoltarea unor mecanisme de securitate adecvate. Sistemul PocketOS utiliza o tehnologie avansată, configurată cu reguli clare de protecție. Acestea, din păcate, nu au fost respectate. Compania a reușit să recupereze parțial datele dintr-un backup vechi de trei luni, un proces care a durat peste două zile. În prezent, se încearcă reconstruirea informațiilor utilizând surse externe, cum ar fi plățile, calendarele și e-mailurile. Deși serviciile au fost reluate, există încă lipsuri semnificative în date.
Sursa: Mediafax
