În orașe tot mai mari, un software înghite zilnic mii de puncte de date și le spune polițiștilor unde e cel mai probabil să se întâmple următoarea crimă.
Promisiunea suna impecabil: lasă mașinăriile reci și raționale să decidă unde să patruleze, în locul intuițiilor umane adesea pătate de prejudecăți. Dar o analiză recentă spulberă acest vis tehnologic.
Departe de a face securitatea mai echitabilă, instrumentele reproduce și chiar amplifică exact inegalitățile pe care ar fi trebuit să le șteargă. În centrul problemei se află un mecanism invizibil, dar extrem de eficient, care împinge forțele de ordine să calce mereu aceleași străzi.
Cum poate o tehnologie menită să obiectiveze lupta împotriva infracțiunilor să se întoarcă împotriva propriului scop?
Cum o buclă de feedback viciază predicțiile
Principiul poliției predictive pornește de la o promisiune simplă: un algoritm analizează infracțiunile din trecut, identifică zonele cu risc crescut și direcționează patrulele în consecință. Sună aproape ca o prognoză meteo a criminalității, capabilă să anunțe furtuna înainte să se dezlănțuie.
Aici intervine însă capcana. Imaginează-ți că îți cauți cheile doar sub un bec, pentru că acolo e lumină. Nu le vei găsi niciodată în altă parte – pentru că pur și simplu nu cauți acolo. Exact asta se întâmplă cu aceste sisteme.
Studiul documentează o buclă de feedback viciosă: predicțiile trimit patrulele în zone care erau deja supravegheate intens. Cu cât sunt mai mulți polițiști într-un loc, cu atât se înregistrează mai multe incidente – și astfel se colectează mai multe date pentru acel cartier.
Algoritmul, hrănit cu aceste informații noi, trage concluzia că zona e și mai periculoasă și ordonă și mai multe patrule acolo. Șarpele își mușcă propria coadă. Slăbiciunea fatală a acestor unelte se rezumă la un singur element: datele istorice.
Un algoritm nu inventează nimic, el învață doar din ceea ce primește. Iar statisticile infracționale de ieri nu reflectă realitatea obiectivă a delincvenței, ci doar locurile în care poliția a ales să își concentreze eforturile în trecut.
Dacă anumite cartiere au fost istoric mai intens monitorizate – adesea din cauze sociale sau economice – ele vor apărea în cifre ca fiind mai criminogene. Mașina moștenește astfel părerile umane din trecut și le transformă în piatră, oferindu-le în plus o aură falsă de neutralitate științifică.
Pericolul e subtil: nimeni nu decide conștient să țintească un cartier. Sistemul pare să îl desemneze „obiectiv”. O infracțiune comisă într-o zonă slab patrulată trece aproape neobservată, în timp ce aceeași faptă, într-un cartier supravegheat, adaugă un plus la statistici.
Criminalitatea nu se mută, dar lumina reflectoarelor rămâne fixată pe același loc. Cel mai tulburător e efectul de amplificare. O ușoară suprareprezentare a unui cartier în datele inițiale nu rămâne constantă – crește cu fiecare ciclu.
E ca un bulgăre de zăpadă: un dezechilibru minuscul la început ajunge să zdrobească totul în cale. Concluzia studiului e clară: aceste sisteme nu prezic atât infracțiunile, cât prevăd propriile lor locații de supraveghere. Confundă harta cu teritoriul.
Putem corecta prejudecățile învățate de mașini?
În practică, asta înseamnă că un cartier deja stigmatizat își vede reputația întărită de un instrument informatic, cu consecințe foarte reale pentru locuitori: controale repetate, neîncredere, deteriorarea relației dintre populație și poliție.
Promisiunea justiției algoritmice se întoarce astfel împotriva celor mai vulnerabili. Ar trebui totuși să renunțăm cu totul la tehnologie? Nu neapărat. Există căi de ieșire din acest cerc vicios.
Prima ar fi diversificarea surselor de date – să nu ne bazăm doar pe constatările poliției, care sunt în mod inerent părtinitoare de prezența patrulelor. Integrarea rapoartelor directe de la cetățeni, de exemplu, ar putea oferi o imagine mai fidelă a realității.
O altă abordare ar fi corectarea voită a algoritmului, forțându-l să exploreze zone pe care le-ar ignora – la fel cum ai încuraja un copil să guste preparate noi, nu doar pe cele preferate.
În cele din urmă, transparența se impune ca un imperativ: aceste sisteme trebuie să devină verificabile și ușor de înțeles de către cei din afară, pentru a nu rămâne niște cutii negre a căror logică scapă oricui.
Supravegherea umană rămâne mai esențială ca niciodată, pentru a împiedica mașina să se blocheze în propriile certitudini. În spatele fascinației pentru inteligența artificială se ascunde o lecție de umilință: niciun instrument nu e mai neutru decât datele care îl hrănesc.
Reproducând eșecurile noastre trecute sub masca unui calcul obiectiv, acești algoritmi ne întorc o oglindă tulburătoare. Poate că adevărata întrebare nu e dacă putem prezice crimele, ci dacă suntem gata să punem la îndoială prejudecățile pe care le încredințăm, fără să știm, mașinăriilor noastre.
Și dacă tehnologia, în loc să ne înlocuiască, ne-ar invita, de fapt, să gândim mai bine?
