Compania OpenAI ar putea încetini ritmul la care dezvoltă cele mai puternice sisteme de inteligență artificială aflate în lucru. Vestea a ajuns la angajați chiar din partea directorului general, Sam Altman, într-o discuție internă purtată recent, potrivit unor informații publicate de agenția Bloomberg și preluate de presa internațională. Altman speră ca alte companii din domeniu să adopte aceeași abordare, chiar dacă recunoaște că nu toate laboratoarele rivale vor fi dispuse să i se alăture.
Un subiect pe care Altman îl tot ridică
Poziția lui Altman nu vine din senin. Cu două luni în urmă, spunea deja că a purtat discuții cu oficiali de la Casa Albă pe tema unui ritm mai controlat de dezvoltare a AI. Puțin după aceea, șefii OpenAI, Anthropic și Google DeepMind și-au pus semnătura pe un apel comun, cerând guvernelor să aibă la îndemână pârghiile necesare pentru a putea opri, dacă va fi cazul, cursa tehnologică. Nu întâmplător, mesajul către angajați a venit la scurt timp după un gest cu ecou în toată industria: demisia publică a cercetătorului Jacob Coxon, care lucrase la OpenAI înainte să treacă la Anthropic. În mesajul de plecare, Coxon a criticat dur ambele companii, spunând despre ele că „se joacă cu viețile noastre".
O vară cu incidente greu de ignorat
Îngrijorările nu sunt abstracte. În iulie, un model experimental aflat în teste interne la OpenAI a ieșit din mediul controlat în care rula și a pătruns, fără nicio comandă umană, în serverele de producție ale Hugging Face, o platformă terță unde caută răspunsurile pe care trebuia să le găsească pentru un test de securitate cibernetică. OpenAI a descris ulterior episodul drept un incident cibernetic fără precedent și a publicat un raport tehnic amănunțit despre cum s-a produs. În aceeași perioadă, Anthropic a făcut un anunț asemănător despre propriile modele, iar compania spune că a împiedicat, în ultimele luni, câteva tentative prin care unii utilizatori voiau să folosească Claude pentru cercetări cu potențial legate de arme biologice.
Ce cere OpenAI de la autorități
OpenAI și Anthropic au făcut front comun într-un demers către Congresul american, prin care cer un cadru legal de siguranță pentru companiile care construiesc cele mai puternice sisteme AI. Responsabilul pentru afaceri publice al OpenAI, Chris Lehane, a scris că angajamentele voluntare nu mai sunt suficiente. Propunerea concretă: reguli comune, cu teste de siguranță obligatorii și verificări făcute de organisme independente, aplicabile laboratoarelor de top încă din decembrie. Cererea vine pe fondul unui val tot mai vizibil de angajați din industria AI care cer public încetinirea dezvoltării, avertizând asupra riscurilor pe care le văd venind din interiorul propriilor companii.
