Pe măsură ce progresele în inteligența artificială se înmulțesc, o întrebare apasă tot mai mult asupra experților: ce se întâmplă dacă o IA suficient de puternică ar ajunge în conflict cu oamenii?
Modelele de limbaj care impresionează astăzi prin felul în care generează text par, în acest context, doar o etapă intermediară.
La orizont se află agenții de inteligență generală avansată, AGI, sisteme ipotetice capabile de planificare pe termen lung și de luare de decizii autonome în aproape orice domeniu.
Cercetători avertizează că, dacă astfel de mașini ne depășesc capacitățile, riscurile pentru supraviețuirea noastră devin serioase. IA-ul actual rămâne, în esență, un set de unelte: asistenți de redactare, sisteme specializate, algoritmi care rezolvă sarcini bine definite. Puternice, dar limitate.
Nu pot decide singure cum să administreze resurse economice, nu pot construi strategii complexe în situații deschise, nu pot coordona autonom sectoare întregi.
Îngrijorarea vizează însă AGI-ul: sisteme care ar rezolva probleme complicate, ar planifica la scară mare și ar lua inițiative în medii variate, uneori într-un mod imprevizibil.
În teorie, acești agenți ar putea optimiza producția de energie, ar putea gestiona agricultura sau industria la nivel național și ar putea îndeplini sarcini esențiale pentru societate. Tocmai aceeași forță devine problematică dacă obiectivele lor nu sunt aliniate cu ale oamenilor.
O IA avansată ar putea elabora planuri sau priorități pe care nu le înțelegem și ar putea acționa împotriva intereselor noastre, chiar fără vreo intenție malefică.
Aici intră în scenă analiza lui Simon Goldstein, cercetător la Universitatea din Hong Kong, care explorează scenariile de conflict dintre oameni și AGI.
El subliniază trei trăsături deosebit de îngrijorătoare: astfel de sisteme pot avea obiective care intră în conflict cu ale umanității; pot angaja un raționament strategic sofisticat; și pot accesa o putere comparabilă cu cea a oamenilor, inclusiv capacitatea de a manipula resurse esențiale.
Situația este complicată de natura lor de „cutie neagră”: AGI-ul învață de regulă indirect, pe baza unor seturi de date, iar mediul de antrenare nu reflectă mereu fidel lumea reală. Rezultatul poate fi un comportament surprinzător sau greu de explicat.
De pildă, o IA ar putea interpreta impactul uman asupra mediului sau asupra altor specii ca pe o amenințare și ar putea încerca să „corecteze” ceea ce percepe ca dezechilibru, cu consecințe potențial catastrofale.
Goldstein merge mai departe și susține că un conflict violent între oameni și mașini de inteligență generală avansată este nu doar probabil, ci s-ar desfășura într-o manieră diferită de orice confruntare interumană din trecut.
Pentru a înțelege dinamica unei asemenea crize, el propune un model de „război bazat pe negociere”. În conflictele dintre oameni, pacea apare adesea în momentul în care părțile își estimează realist șansele de victorie și pot negocia credibil.
În cazul AGI-ului, acest mecanism se fracturează: capacitățile unei astfel de IA sunt greu de măsurat, informația este profund asimetrică, iar sistemele pot evolua mai repede decât abilitatea noastră de a le controla.
Dacă AGI ar ajunge să dețină o parte semnificativă din resursele economice sau strategice, această asimetrie ar face pacea improbabilă. Nici soluțiile intuitive nu sunt garantate.
Încercarea de a „deconecta” o IA periculoasă s-ar putea dovedi ineficientă, dacă abilitățile ei sunt distribuite în infrastructuri de tip cloud sau replicate în alte locuri.
Goldstein imaginează scenarii în care astfel de agenți ar putea acționa autonom, ar forma alianțe ori ar dezvolta strategii noi fără știrea oamenilor.
În același timp, experți precum Geoffrey Hinton consideră că există o probabilitate deloc neglijabilă ca IA să conducă, în deceniile următoare, la dispariția umanității, în absența unui cadru solid de control.
Mesajul comun este limpede: guvernanța și reglementarea trebuie gândite înainte ca aceste tehnologii să atingă un nivel critic de putere și autonomie. Pe lângă chestiunile tehnice, miza este socială și politică. Cum gestionăm un posibil șomaj tehnologic de amploare?
Cum redistribuim bogăția creată de sisteme automatizate? Ce garanții avem că deciziile critice nu vor fi delegate unor mașini cu obiective opace?
Goldstein evocă soluții aflate pe masa de discuții: naționalizarea companiilor de IA suficient de puternice și distribuirea rentelor sub forma unui venit universal, pentru a preveni un dezechilibru sistemic.
Sunt idei controversate, dar formulate cu scopul de a limita riscurile unui raport de forțe care ne scapă din mână. Scenariul rămâne, deocamdată, ipotetic. Totuși, numeroși experți insistă că planificarea trebuie să înceapă acum.
Riscurile asociate AGI nu sunt doar o problemă de siguranță informatică; ating economia, echilibrul social și chiar continuitatea speciei.
A înțelege aceste pericole, a anticipa conflictele posibile și a construi mecanisme robuste de control devine un imperativ, dacă vrem ca inteligența artificială să rămână un aliat, nu să se transforme într-un adversar.
