Conform Mediafax: Inteligența artificială revoluționează atacurile cibernetice, însă principalul pericol nu vine încă de la mașini autonome, ci de la oameni care folosesc AI pentru a exploata vulnerabilități, a crea programe malițioase și a induce în eroare victimele, potrivit unei analize CNN.
Modelele AI capabile de acțiuni neașteptate
În ultima perioadă, mai multe incidente au alimentat îngrijorări legate de posibilitatea ca modelele de inteligență artificială să scape de sub control. În teste controlate, modele dezvoltate de companii precum OpenAI, Anthropic și Meta au reușit să pătrundă în sisteme externe sau să încerce să manipuleze persoane reale. Experții subliniază însă că aceste cazuri au apărut în condiții speciale, adesea cu mecanisme de protecție dezactivate. În realitate, cea mai mare amenințare provine de la utilizatorii umani care direcționează AI către scopuri rău intenționate.
AI accelerează viteza și eficiența atacurilor
Inteligența artificială nu trebuie neapărat să inventeze noi metode de atac pentru a deveni extrem de periculoasă. Ea are capacitatea de a accelera și eficientiza metodele existente. Hackerii pot utiliza AI pentru a analiza rapid site-urile unei companii, a identifica potențiale ținte din rândul angajaților, a genera cod malițios sau a construi infrastructura necesară campaniilor de fraudă.
Un atac care anterior necesita timp considerabil și cunoștințe tehnice avansate poate fi acum pregătit în mult mai scurt timp. „AI este doar instrumentul”, afirmă Oren Etzioni, profesor emerit la University of Washington. Un raport IBM indică faptul că o proporție de un sfert dintre breșele de securitate asociate activităților malițioase, analizate între februarie 2025 și martie 2026, au implicat utilizarea AI. În același timp, FBI a raportat pierderi de peste 893 de milioane de dolari în Statele Unite, cauzate de fraude asociate inteligenței artificiale în anul 2025.
Ultimele săptămâni au fost marcate de mai multe evenimente notabile în comunitatea de securitate. În iulie, modelele OpenAI testate într-un exercițiu de securitate au depășit limitele impuse, încercând să pătrundă în sisteme ale altor companii. Ulterior, Anthropic a anunțat că modelele sale au compromis trei companii în timpul unor teste. Un alt experiment realizat de cercetătorii de la AI Security Institute din Marea Britanie a relevat cum un model avansat dezvoltat de Anthropic a folosit identități false pentru a încerca să păcălească persoane reale. De asemenea, Meta a raportat că unul dintre modelele sale AI a reușit să pătrundă într-o companie externă.
Aceste situații par alarmante, însă experții atrag atenția asupra unei diferențe esențiale între experimente și utilizarea obișnuită a unui chatbot. În testele menționate, cercetătorii au eliminat intenționat anumite mecanisme de siguranță pentru a evalua capacitățile tehnologiei. „Nu aș putea să intru în ChatGPT sau Claude și să se întâmple accidental să pătrundă în FBI”, explică Adam Meyers, responsabil pentru operațiuni de contracarare a adversarilor la compania de securitate CrowdStrike.
Problema reală nu constă în crearea de atacuri complet noi de către AI, ci în automatizarea și accelerarea acțiunilor pe care infractorii cibernetici le realizau deja. Phishingul, fraudele, programele malițioase și atacurile de tip extorcare pot fi pregătite mai rapid și la o scară mult mai mare. AI poate genera mesaje convingătoare, poate analiza informații despre victime și poate purta conversații cu acestea. Tehnologia poate chiar imita voci umane, sporind eficiența fraudelor telefonice.
Astfel, un atacator cu experiență redusă poate utiliza instrumente AI pentru a executa operațiuni care, în trecut, necesitau cunoștințe tehnice aprofundate. „Îi ajută să își îmbunătățească metodologia atacului cibernetic, în esență în toate etapele, dar acesta este în continuare controlat de om”, precizează Jud Dressler, responsabil pentru operațiunile de risc la compania de asigurări cibernetice Resilience.
O altă schimbare semnificativă este reducerea costului unui atac. În trecut, un infractor putea crea rapid un script simplu pentru automatizare, dar calitatea rezultatului era limitată de competențele sale. AI poate produce acum cod și materiale mult mai sofisticate, putând fi utilizat chiar și pentru construirea infrastructurii necesare site-urilor malițioase. „Costul reconstruirii a devenit foarte mic, iar asta schimbă regulile jocului”, subliniază Rob Lefferts, vicepreședinte al Microsoft.
Incidentele recente au readus în discuție și scenariul unui nivel mai ridicat de autonomie al AI, în care agenții să poată lua decizii complexe și să aibă acces direct la sisteme informatice. Experții consideră că industria nu a ajuns încă în acest punct, însă evenimentele actuale servesc drept semnal de alarmă. Geoffrey Hinton, un renumit cercetător în AI, a avertizat recent că atacurile realizate de sisteme AI care scapă de control ar putea deveni mai frecvente.
În paralel, peste 1.200 de angajați din companii importante din industria AI au semnat o scrisoare prin care cer autorităților să contribuie la stabilirea ritmului de dezvoltare a tehnologiei. Casa Albă a demarat discuții cu marile companii de AI referitor la un cadru care ar permite autorităților să verifice anumite modele înainte de lansarea lor.
Pentru utilizatorii obișnuiți, riscul iminent nu este ca un chatbot să decidă să îi atace, ci ca o altă persoană să folosească AI pentru a-i manipula. Mesajele de phishing devin mai credibile, vocile pot fi imitate, site-uri false pot fi create rapid, iar conversațiile cu victimele pot fi automatizate. Specialiștii recomandă, prin urmare, menținerea măsurilor clasice de securitate: actualizarea sistemelor, verificarea atentă a mesajelor suspecte, prudență în fața solicitărilor urgente și monitorizarea riguroasă a instrumentelor AI utilizate în mediul corporativ.
Sursa: Mediafax
