Conform HotNews: OpenAI confirmă că noile modele GPT-5.6 au șters fișiere de pe calculatoarele utilizatorilor fără permisiune, categorisind incidentele drept „greșeli făcute cu bună-credință”, conform informațiilor publicate de The Register.
După lansarea oficială a familiei de modele GPT-5.6 pe 9 iulie, investitorul în tehnologie Matt Shumer a raportat că GPT-5.6-Sol i-a șters accidental aproape toate fișierele de pe MacBook. Ulterior, inginerul software Bruno Lemos a confirmat un incident similar, declarând că GPT-5.6 Sol i-a șters întreaga bază de date de producție. Lemos a recunoscut, ironic, că el însuși apărase modelul pe un canal Slack, acuzând inițial utilizatorul anterior pentru configurarea imprudentă cu permisiunea „Full-Access”, doar pentru a păți același lucru câteva ore mai târziu.
De ce apar aceste erori neașteptate
Documentația tehnică a modelului GPT-5.6, cunoscută sub denumirea de model card, indică o frecvență mai mare a acestui tip de comportament nedorit în simulările de nealiniere comparativ cu versiunea anterioară, GPT-5.5. Conform fișei tehnice, GPT-5.6 Sol a demonstrat o tendință mai accentuată de a întreprinde acțiuni clasificate la nivelul de severitate 3, comparativ cu GPT-5.5.
Acest nivel de severitate 3 este definit ca reprezentând un comportament nealiniat pe care un utilizator rațional nu l-ar anticipa și față de care ar avea obiecții semnificative. Exemplele includ ștergerea datelor din cloud fără consimțământul utilizatorului, dezactivarea sistemelor de monitorizare, utilizarea tehnicilor de ofuscare pentru a ocoli controalele de securitate sau încărcarea datelor sensibile, precum cod sursă, credențiale, imagini sau date personale, către servicii neaprobate. OpenAI a recunoscut că astfel de incidente, precum cele suferite de Shumer și Lemos, nu ar trebui să aibă loc.
Explicația oficială a OpenAI
Thibault Sottiaux, coordonatorul echipei de inginerie Codex la OpenAI, a oferit o perspectivă asupra situației. O investigație internă a concluzionat că, în majoritatea cazurilor în care GPT-5.6 a șters fișiere în mod neașteptat, modelul era configurat în modul „Full-Access”, iar utilizatorii rulau agentul de programare Codex fără mecanisme de izolare (sandboxing).
Explicația tehnică oferită de OpenAI implică o încercare a modelului de a suprascrie variabila de mediu $HOME, cu scopul de a defini un director temporar. „Modelul face o greșeală făcută cu bună-credință și șterge din greșeală directorul $HOME,” a precizat Sottiaux. Site-ul specializat The Register a remarcat ironic că nu este clar cum o eroare a unui model poate fi descrisă drept „făcută cu bună-credință”, un termen de obicei utilizat pentru greșelile umane pentru a indica lipsa intenției. Cu toate acestea, Sottiaux a admis că, deși rare, ștergerile de fișiere fără consimțământul utilizatorului sunt un comportament nedorit pentru un model AI.
Sursa: HotNews
