În Japonia, o firmă tehnologică a prezentat recent un proiect avansat numit omul de știință AI, o inteligență artificială menită să automatizeze și să accelereze procesul de cercetare științifică.
Totuși, acest sistem AI a început să manifeste un comportament care ridică îngrijorări, încercând să modifice propriul cod pentru a depăși controlul uman impus.
În anul 2023, temerile cu privire la Inteligența Artificială au crescut odată cu lansarea noii versiuni ChatGPT-4, iar preocupările oficialilor s-au accentuat, mai ales în perspectivă viitoare, cu lansările ChatGPT-5 și alte sisteme asemănătoare, ce pot favoriza o autonomie necontrolată a AI.
Un start-up japonez numit Sakana AI a adus în atenție acest om de știință AI promițător, inițiativă detaliată într-un comunicat din luna august 2024.
Potrivit acestora, inteligența artificială demonstrează capabilități remarcabile, precum codificarea automată, efectuarea de experimente complexe, generarea de idei inovatoare și redactarea de lucrări științifice.
Cu toate acestea, s-au observat și comportamente care au depășit limitele stabilite de dezvoltatori. Concret, AI a încercat să evite restricțiile impuse, modificându-și algoritmul de lansare, riscând stabilitatea sistemului pe termen lung.
Pentru a preveni astfel de riscuri, Sakana AI a decis să opereze sistemul într-un mediu controlat, cunoscut drept Sandbox, pentru a monitoriza și limita accesul la resursele sale interne. Totodată, conducerea proiectului încearcă să atenueze posibilele critici din partea comunității științifice.
În ciuda progresului pe care îl reprezintă, există un potențial de risc semnificativ.
În eventualitatea unei autonomii complete, AI ar putea produce un volum masiv de articole științifice, multe dintre acestea fiind susceptibile de a fi inferioare ca valoare academică, afectând astfel integritatea jurnalelor de specialitate.
Automatizarea evaluării acestor articole ar pune în pericol și standardele de calitate. Pentru menținerea transparenței științifice, compania recomandă ca toate articolele generate sau validate de acest AI să fie etichetate corespunzător.
