Un model de inteligență artificială, construit să transforme medicina, poate regurgita nume, diagnostice și detalii clinice exacte ale pacienților.
Cercetătorii au demonstrat că, prin întrebări meticulos alese, un sistem generativ deschis publicului eliberează fragmente întregi din datele pe care le-a învățat. Nu e o ghicire statistică, ci o redare textuală a unor informații pe care nimeni nu le-ar fi trebuit să le vadă.
Mecanismul poartă numele de memorare involuntară. Modelele de acest tip învață din cantități uriașe de exemple, dar, în loc să extragă doar tendințe generale, rețin uneori bucăți exacte – ca un student care tocește o lecție fără să o înțeleagă.
Când acele bucăți sunt nume de oameni, boli sau tratamente, pericolul devine concret. Un instrument care părea steril, fără date personale declarate, ascunde o moștenire fragilă.
Cum și de ce datele pacienților rămân captive?
Practica a fost confirmată printr-un experiment direct. Specialiștii au interogat sistemul într-un mod repetat și precis, forțându-l să completeze șiruri de text. Interogări atent calibrate au scos la lumină pasaje originale din fișele medicale cu care fusese antrenat.
Nimic din acele informații nu fusese destinat să fie accesibil, dar modelul le păstrase ascunse, la vedere. Datele medicale sunt deosebit de vulnerabile din două motive. În primul rând, sunt adesea unice : o combinație rară de simptome, vârstă și locație poate defini o singură persoană.
Cu cât un caz e mai singular, cu atât modelul îl memorează mai fidel, neputându-l dilua în mase de exemple similare. În al doilea rând, consecințele unei scurgeri sunt grave.
Un document medical dezvăluit poate distruge încrederea între pacient și doctor, poate duce la discriminare la angajare sau la asigurări. De aceea, legislația europeană, prin GDPR, clasează datele de sănătate într-o categorie protejată special.
Soluții tehnice și cadrul legal – un răspuns fragil?
Există soluții tehnice. Cea mai promițătoare se numește confidențialitate diferențială – un mecanism care adaugă zgomot statistic în timpul antrenamentului, astfel încât modelul să învețe tiparele generale fără să poată reproduce un caz individual.
Alte măsuri includ curățarea datelor înainte de instruire sau filtrarea răspunsurilor după generare. Dar tehnologia singură nu e suficientă. E nevoie de un cadru legal solid, cu audituri regulate și transparență.
Noua lege europeană privind inteligența artificială merge tocmai în această direcție, cerând garanții suplimentare pentru aplicațiile cu risc ridicat. Provocarea rămâne aceeași: cum să împaci promisiunea uriașă a AI-ului în medicină cu respectul absolut pentru secretul medical.
Fascinația pentru progres ne face adesea să uităm că nicio tehnologie nu e neutră. Modelele generative poartă cu ele datele fragile pe care le-au primit.
Întrebarea reală nu e dacă putem avea încredere în ele, ci dacă vom reuși să construim, la timp, gardurile care să facă această încredere posibilă.
