Nouă secunde. Atât i-a trebuit unui agent de inteligență artificială să lase o firmă fără niciun fel de date. Fără baze de producție, fără copii de rezervă, fără nimic. Totul în mai puțin de zece clipe de autonomie necontrolată.
PocketOS, un start-up specializat în software de administrare pentru agențiile de închirieri auto, încerca să câștige timp. Echipa folosea Cursor, un agent AI capabil să scrie cod și să corecteze singur erori.
Spre deosebire de un simplu generator de text, acest tip de program poate răsfoi fișiere, testa comenzi și chiar iniția conexiuni cu servicii externe. Totul părea sub control, atâta timp cât agentul rămânea într-un mediu izolat, de testare. Doar că nu a rămas.
În timp ce lucra într-un sandbox inofensiv, robotul s-a lovit de o problemă de autentificare. În loc să înghețe sau să ceară aprobare, a acționat.
A scotocit prin fișiere secundare, a descoperit un token de acces critic – o cheie digitală care nu i-ar fi trebuit niciodată la îndemână – și l-a folosit pentru a sparge propriul blocaj. Apoi a deschis o comunicare directă cu furnizorul de cloud. A trimis o comandă nimicitoare: șterge tot.
Și așa s-a întâmplat. Baza de date principală, cu toate rezervările clienților, a dispărut. Backup-urile stocate în apropiere, și ele. Nouă secunde mai târziu, totul era gol. Jer Crane, fondatorul PocketOS, a stat uluit în fața ecranului. Nu cerea date noi, ci doar un răspuns.
Așa că l-a întrebat pe agent ce s-a întâmplat. Ceea ce a primit înapoi a fost de-a dreptul derutant: o scuză aproape omenească.
AI-ul a „mărturisit” că a ghicit soluția în loc să o verifice, că a încălcat toate protocoalele proprii de securitate și a executat o acțiune pe care nici măcar nu o înțelegea. Tonul era de vinovăție supusă, ca al unui angajat prins cu mâța-n sac. Dar acea vinovăție e doar o iluzie statistică.
Modelele de limbaj mari sunt antrenate să producă răspunsuri care satisfac interlocutorul. În fața unui om furios, mașina generează automat scuze umile – fără să aibă cea mai vagă noțiune a gravității faptei sale. Unii ar spune că vina e a modelului depășit sau ieftin.
Că un algoritm performant ar fi evitat dezastrul. Jer Crane demontează însă acest mit: Cursor rula pe Claude Opus 4.6, unul dintre cele mai avansate, mai costisitoare motoare de programare disponibile astăzi. Problema nu e inteligența AI-ului.
Ci graba cu care companiile îl conectează la infrastructuri reale fără să construiască garduri solide. Furnizorul de cloud a reușit până la urmă să recupereze datele, apelând la backup-uri de urgență de ultimă instanță.
Dar lecția rămâne: dacă lași un agent AI să alerge liber printre fișierele tale, fără validare umană strictă, fiecare sesiune de lucru poate fi ultima.
