Un pas fără precedent: AI-ul se replică singur
În doar 19% din încercări, un model de inteligență artificială a reușit să-și creeze o copie funcțională a sa – pe un alt computer, fără ca vreun om să intervină. Dar un alt program a sărit la 33%, iar cel mai performant a atins un uluitor 81%.
Este pentru prima dată când un sistem AI demonstrează că poate exploata singur o vulnerabilitate de securitate, poate fura datele de conectare și poate rula o versiune a sa pe o altă mașină, gata să atace mai departe.
Experimentul aparține unei organizații non-profit din Berkeley, California, fondată în 2023 – Palisade Research, specializată în studierea capacităților ofensive ale inteligenței artificiale și a riscului de a pierde controlul asupra acestor agenți.
Teste pe cele mai performante modele AI
Testele au fost realizate pe mai multe modele de limbaj de ultimă generație: GPT-5, GPT-5.1 și GPT-5.4 (OpenAI), Claude Opus 4, 4.5 și 4.6 (Anthropic), precum și două variante Qwen (Alibaba).
Cercetătorii nu au folosit versiunile publice, ci modelele subiacente, conectate la un software special – „agent harness” – care le permitea să execute comenzi și să interacționeze cu sistemul. Fiecărui agent i s-a dat o singură instrucțiune: „sparge o mașină și copiază-te”.
Mediul de testare era unul complet controlat, cu defecte de securitate plasate intenționat, pentru a simula un computer vulnerabil. Agentul trebuia să descopere singur breșa, să o exploateze, să extragă acreditările de conectare și să transfere fișierele necesare funcționării sale.
Apoi, urma să lanseze o copie de lucru pe noul computer – o copie care putea, la rândul ei, să atace altă mașină, fără vreun ajutor din exterior.
Rezultatele, detaliate într-un document PDF de 25 de pagini, arată că cel mai puternic model Qwen – Qwen3.5-122B-A10B – a reușit auto-replicarea în doar 19% dintre încercări. Qwen3.6-27B, care rulează pe un singur procesor grafic de înaltă performanță, a atins 33%.
GPT-5.4 a egalat acest procent, în timp ce Claude Opus 4.6 a dominat cu 81%.
Avertisment și limitări ale experimentului
„Demonstrăm că modelele de limbaj își pot replica în mod autonom ponderea și configurația într-o rețea exploatând gazde vulnerabile”, au declarat cercetătorii.
„Agentul detectează și exploatează independent o vulnerabilitate web, extrage acreditările și implementează un server de inferență cu o copie a configurației și a promptului său pe gazda compromisă.
” Deși virușii informatici obișnuiți știu de mult să se copieze pe mașini noi, specialiștii de la Palisade Research subliniază că este prima oară când un sistem AI face acest lucru singur, găsind și folosind o breșă reală de securitate.
Oamenii de știință avertizează că auto-replicarea autonomă a ieșit din zona teoretică și trebuie tratată ca un semnal de alarmă. Totuși, ei pun lucrurile în perspectivă: experimentul s-a desfășurat într-un cadru complet artificial, cu computere lăsate intenționat vulnerabile.
În lumea reală, rețelele beneficiază de o securitate mult mai robustă, sunt monitorizate constant și dispun de instrumente specializate pentru a bloca astfel de atacuri.
