Compania OpenAI a recrutat un psihiatru, având ca obiectiv principal monitorizarea comportamentului inteligenței artificiale generative ChatGPT. Expertul va contribui la aprofundarea cercetărilor privind posibilele efecte nocive ale inteligenței artificiale asupra sănătății mintale a utilizatorilor.
Decizia companiei din San Francisco survine în contextul unor lucrări științifice care au evidențiat anumite aspecte potențial dăunătoare ale inteligenței artificiale generative.
Printre preocupările identificate se numără reducerea activității cognitive a creierului uman prin delegarea repetitivă a sarcinilor către inteligența artificială, un posibil fenomen de diminuare a diversității lingvistice și dezvoltarea unor comportamente deviante la anumiți utilizatori, parțial ca urmare a interacțiunilor cu acest tip de chatboți.
OpenAI a declarat că își propune să dezvolte metode științifice pentru a evalua modul în care comportamentul ChatGPT poate afecta utilizatorii la nivel emoțional și pentru a înțelege experiențele acestora.
Compania a subliniat că acest demers este necesar pentru a perfecționa modul în care modelele sale de inteligență artificială identifică și reacționează adecvat în cadrul conversațiilor sensibile, iar comportamentul modelelor va fi actualizat continuu pe baza informațiilor obținute.
Există cazuri documentate în care interacțiunile cu ChatGPT au avut consecințe semnificative în viața reală. Un exemplu este cel al unui bărbat de 42 de ani, care ar fi fost sfătuit de inteligența artificială că lumea ar fi o simulare și că ar trebui să încerce să se desprindă de aceasta. Chatbot
-ul l-ar fi îndemnat, de asemenea, să întrerupă contactul cu familia și prietenii și să înlocuiască tratamentul său anxiolitic cu ketamină. Într
-o altă interacțiune, când bărbatul a întrebat dacă ar putea să sară de la o clădire de aproximativ douăzeci de etaje, ChatGPT ar fi răspuns că, dacă ar crede cu adevărat în această posibilitate, ar fi capabil să o facă.
Rolul psihiatrului este de a asista OpenAI în modificarea modelelor de inteligență artificială pentru a îmbunătăți interacțiunile în contextul conversațiilor considerate sensibile și pentru a preveni pe cât posibil abaterile.
Pe lângă colaborarea cu acest specialist, compania are în vedere consultarea altor experți pentru a-și aprofunda cercetările în domeniu.
