Un sistem care rezolvă teoreme complexe și scrie cod sofisticat se împiedică, uneori, la o comparație între două numere zecimale. Imaginați-vă un asistent digital capabil să disecă o ecuație avansată, dar care, întrebat dacă 9,11 este mai mare decât 9,9, răspunde cu siguranță… greșit.
Scena capătă un aer aproape absurd, mai ales că același instrument tocmai demonstrase o rigoare de manual. Acest contrast nu este un accident izolat.
Utilizatorii din întreaga lume se confruntă cu el zilnic: modele de inteligență artificială generativă, lăudate pentru performanțele lor uluitoare, cad pradă unor erori pe care orice copil de clasa întâi le-ar evita.
Paradoxul alimentează o întrebare tulburătoare: oare progresul AI nu este deloc liniar? Poate o mașină să devină mai bună la sarcini dificile, dar să regreseze la cele simple?
AI-ul anticipează, nu calculează
Răspunsul, pe cât de simplu, pe atât de surprinzător, ține de natura fundamentală a acestor sisteme. Un AI generativ nu raționează logic, așa cum facem noi. El nu „calculează” în sens clasic, ci anticipează cel mai probabil șir de cuvinte și simboluri, pe baza unui volum uriaș de date.
O adunare elementară nu este pentru el o certitudine matematică, ci o succesiune statistică de caractere. Cu cât modelul devine mai sofisticat, cu atât poate rătăci mai mult în zone pe care le considerăm banale, căutând subtilități acolo unde nu există.
Pentru a măsura acest fenomen, comunitatea științifică a observat îndeaproape benchmark-urile. Multă vreme, scorurile generale sugerau un progres constant, o curbă liniștitoare.
Însă o analiză mai atentă a scos la iveală o regresie discretă: pe măsură ce performanța la probleme complexe creștea, erorile la întrebările simple deveneau mai frecvente. Media generală, strălucitoare, masca aceste slăbiciuni.
Este ca și cum un mare bucătar, perfecționându-și rețetele sofisticate, ar uita cum se face o omletă. Cauzele sunt multiple. Antrenamentul modelelor recente pune adesea accentul pe sarcini dificile, considerate mai relevante sau mai spectaculoase.
Întrebările simple, luate ca atare, sunt neglijate sau prost calibrate. În plus, aceste sisteme tind să suprainterpreteze: în fața unei întrebări banale, ele caută o capcană ascunsă, construiesc un raționament încâlcit și se poticnesc.
Este sindromul elevului prea silitor care complică un exercițiu evident. La bază, însă, stă un adevăr esențial: AI-ul manipulează limbajul, nu adevărul matematic. Puterea și fiabilitatea nu merg mână în mână, iar una poate chiar să o saboteze pe cealaltă.
Protejează-te de erorile AI-ului
Vestea bună este că, odată conștient de acest mecanism, utilizatorul se poate proteja. Primul pas: verifică întotdeauna răspunsurile numerice sau faptice, mai ales când par prea simple pentru a fi false. Nu încredința un calcul crucial unui AI fără un dublu control.
Este un partener genial pentru scris și brainstorming, dar un contabil slab. Al doilea pas: formulează cererile cu precizie, cerându-i să detalieze fiecare pas al raționamentului. Adesea, obligat să-și explice logica, se corectează singur.
În cele din urmă, acceptă acest adevăr paradoxal: un AI generativ nu este un calculator, nici o enciclopedie infailibilă. Este un interlocutor strălucit, dar falibil, ale cărui puncte moarte trebuie cunoscute pentru a-i valorifica potențialul.
Eșecul său în fața celor mai elementare întrebări ne reamintește o lecție de umilință: performanța nu garantează fiabilitatea, iar inteligența artificială nu gândește ca noi.
În loc să așteptăm perfecțiunea iluzorie, putem învăța să colaborăm, folosindu-i punctele tari și monitorizându-i punctele slabe. Poate că tocmai aceste mici eșecuri ne ajută să înțelegem mai bine ce separă cu adevărat mintea umană de mașină.
