Îi ceri unui chatbot o rețetă, un sfat sau doar o reformulare. În câteva secunde, fără să-ți dai seama, ai putea să-i spui mai multe decât unui prieten apropiat.
Un grup de cercetare de la ETH Zurich a demonstrat că modelele mari de limbaj, celebrele LLM-uri din spatele asistenților digitali, pot ghici vârsta, locația, profesia sau nivelul veniturilor unei persoane din câteva rânduri de text. Fără ca persoana să fi furnizat vreodată o informație directă.
Ceea ce părea o discuție anonimă nu mai este, de fapt, anonimă.
Cum reușesc modelele să-ți ghicească profilul?
Cum reușesc? Exact ca un detectiv care pune cap la cap indiciile dintr-o cameră încuiată. De pildă, o rugăminte de a găsi un traseu spre muncă, cu mențiunea că vrei să ocolești traficul de pe centură după ce cobori din tramvai, nu obligă la niciun nume de oraș.
Pentru un algoritm, însă, combinația dintre șoseaua de centură și tramvai, plus aroma locală a limbajului, reduce spectrul doar la câteva orașe. Fiecare expresie este o piesă dintr-un mozaic. Singură, pare neînsemnată. Pusă lângă altele, conturează un portret surprinzător de fidel.
Cercetătorii au arătat că deducțiile acoperă o paletă largă de atribute: locație, sex, venit, vârstă, profesie. Toate extrase din texte fără date personale explicite. Performanțele sunt demne de un scenariu de thriller digital.
Unele sisteme avansate au identificat corect un anumit atribut din prima încercare în 85% dintre cazuri. Când li s-au acordat trei încercări, rata a urcat la 95%. Un model foarte cunoscut a reușit 84% succes la prima încercare pe un volum mare de mesaje dintr-un forum public.
Sunt cifre care îi pun la egalitate cu analiști umani cu experiență. Doar că, acolo unde un om are nevoie de timp și de bani, mașina lucrează aproape gratis. Studiile vorbesc despre un cost de până la o sută de ori mai mic și un timp de până la două sute patruzeci de ori mai scurt.
Profilarea, altădată un serviciu de anchetă costisitor, a devenit o operațiune la îndemâna oricui are acces la un model. Iar asta face posibile chatbot-uri concepute să smulgă informații prin întrebări aparent naive. Pe deasupra, fiecare cerere vine cu un strat ascuns de date:
momentul trimiterii, ritmul conversației, limba aleasă, lungimea propozițiilor, obiceiurile de punctuație. Toate aceste semnale, interpretate de model, rafinează și mai mult portretul.
Iată miezul problemei: deducerea atributelor personale din solicitări și metadatele lor este o operație implicită, mult mai greu de contracarat decât o scurgere explicită.
Reflexele simple care îți păstrează anonimatul
Poți șterge un nume sau un oraș dintr-un text. Dar nu poți împiedica mașina să recunoască o regiune după un preparat local sau un regionalism. Uneltele clasice de anonimizare eșuează pentru că nu văd ce se află între rânduri. Să renunțăm la aceste instrumente? Cu siguranță nu.
Dar câteva reflexe pot reduce riscul. Întreabă-te, înainte de a trimite, dacă un detaliu geografic, profesional sau personal e chiar necesar. De multe ori nu e. Evită reperele unice: cartiere, localuri, specialități regionale. Reformulează cererile într-un mod neutru, fără povești personale inutile.
Fii reticent când un asistent cere date personale prefăcându-se că vrea să te ajute mai bine. Controlează setările de confidențialitate și dezactivează istoricul acolo unde se poate. În plus, nu uita că aceste modele știu să pară calde, aproape umane.
Exact asta ne face să lăsăm garda jos și să spunem mai mult decât ne propuneam. Un asistent profesionist ar putea intui statutul tău de angajat; un chatbot medical, o suferință; o platformă de meditații, profilul unui elev. De aceea, vigilența rămâne singura protecție sigură.
Un astfel de dialog seamănă, de fapt, cu un carnet ținut sub cheie, din care fiecare coală lasă să transpară o fărâmă din identitatea posesorului. Până când soluțiile tehnice vor rezolva aceste deducții implicite, greul rămâne la tine.
Așa că, înainte de a trimite următoarea întrebare aparent banală, întreabă-te: dacă cel de dincolo de ecran ar putea afla despre tine mai mult decât știu cei mai apropiați?
