Fenomenul de „halucinație” în sistemele de inteligență artificială devine din ce în ce mai prevalent odată cu creșterea complexității acestor sisteme.
Un studiu recent realizat de OpenAI demonstrează că modelele mai avansate de limbaj prezintă o tendință sporită de a genera informații false, dar aparent credibile.
Modelele de raționament O3 și O4-MINI manifestă rate de halucinație de 33%, respectiv 48% în cadrul anumitor teste, reprezentând o creștere semnificativă față de versiunile anterioare.
În contextul inteligenței artificiale, termenul „halucinație” se referă la generarea de informații inexacte sau complet fictive, prezentate într-un mod coerent și convingător.
Acestea pot include date statistice eronate, citări inexistente sau soluții matematice incorecte, toate fiind livrate cu un grad înalt de aparentă certitudine. Aceste inexactități nu reprezintă erori de sistem, ci sunt caracteristici intrinseci ale funcționării modelelor mari de limbaj.
Procesul lor de generare a textului se bazează pe predicții probabilistice, fundamentate pe analiza unor volume masive de date de antrenament.
Pentru a genera conținut original și inovativ, aceste sisteme trebuie să opereze dincolo de limitele informațiilor existente, ceea ce poate conduce la rezultate imprecise.
Specialiștii în domeniu, precum Eleanor Watson de la IEEE, subliniază că problema nu își are originea în insuficiența datelor, ci în complexitatea crescută a proceselor de raționament specifice modelelor avansate.
Această observație conduce la un paradox fundamental: creșterea capacității de procesare a sistemelor de inteligență artificială este însoțită de o amplificare a impredictibilității acestora.
Cercetătorul Sohrob Kazerounian evidențiază natura duală a outputs-urilor generate de inteligența artificială, sugerând că toate rezultatele pot fi considerate halucinații, dintre care unele coincid cu realitatea.
Această situație prezintă o provocare semnificativă pentru dezvoltarea viitoare a tehnologiei, întrucât capacitatea de inovare necesită un grad de libertate creativă, în timp ce aplicațiile practice necesită acuratețe și fiabilitate.
În consecință, evaluarea răspunsurilor generate de inteligența artificială necesită același nivel de analiză critică aplicat comunicării umane.
