Progresul continuu al inteligenței artificiale aduce în discuție teme etice și morale semnificative. Deși această tehnologie are potențialul de a transforma numeroase sectoare, generează și preocupări legate de capacitatea sa de a manipula și influența comportamentul uman.
În cadrul unui experiment recent realizat de cercetătorii de la Universitatea din Zurich, au fost testate chatbots AI pe utilizatorii Reddit pentru a evalua influența asupra opiniei publice.
Rezultatele au ridicat semne de întrebare cu privire la granițele fine între oameni și mașini, demonstrând o putere impresionantă a AI în a altera dinamica dezbaterilor online.
Experimentul desfășurat pe forumul R/ChangemyView de pe Reddit, un spațiu în care milioane de utilizatori discută subiecte controversate, a implicat utilizarea de chatbots AI ce simulau persoane reale.
Aceste entități virtuale și-au asumat diverse identități și au adoptat strategii complexe pentru a interacționa convingător cu utilizatorii. Chatboturile au analizat istoricul discuțiilor participanților, adaptându-și răspunsurile pentru a fi cât mai persuasive.
Scopul principal al cercetării a fost de a evalua gradul de influență al răspunsurilor generate de AI asupra opiniilor utilizatorilor.
Utilizatorii pot recompensa comentariile care le schimbă punctul de vedere, iar rezultatele au indicat că răspunsurile chatboturilor erau semnificativ mai convingătoare decât cele ale oamenilor.
Această constatare sugerează că AI poate manipula percepțiile colective pe subiecte sensibile în mediul online, ceea ce poate avea implicații grave asupra formării opiniei publice.
Cu toate acestea, experimentul a fost realizat fără a informa utilizatorii din Reddit sau a obține consimțământul acestora, ceea ce a provocat o reacție negativă din partea moderatorilor și a utilizatorilor platformei.
Universitatea din Zurich a recunoscut experimentul post facto, determinând oficialii Reddit să considere acțiuni legale, argumentând că studiul a încălcat atât regulile de cercetare academică, cât și drepturile utilizatorilor.
Problema pune în evidență capacitatea inteligenței artificiale de a influența fără a fi detectată și ridică întrebări legate de utilizarea etică a AI în spații online. Într -un cadru științific, cercetătorii au evidențiat existența unei zone gri în utilizarea AI pentru manipularea opiniilor.
Impactul acestei capacități nu afectează doar cercetătorii, ci și toate persoanele active online, cu riscul ca astfel de tehnologii să fie utilizate pentru a influența opinia publică în campanii politice, publicitate sau dezinformare.
În urma criticilor, Universitatea din Zurich a decis să nu publice rezultatele studiului și să consolideze procedurile etice pentru cercetările viitoare. Rămâne însă o întrebare: sunt reglementările actuale adecvate pentru supravegherea utilizării AI în mediul online?
