Peste 1.000 de angajați ai celor mai mari companii de inteligență artificială din lume au semnat, marți, o petiție prin care cer guvernului Statelor Unite să sprijine încetinirea deliberată a dezvoltării celor mai avansate sisteme AI. Printre semnatari se numără directorul general al Anthropic, Dario Amodei, șeful cercetării de la OpenAI, liderul strategic al Google DeepMind și cercetătorul-șef al Meta AI.
Ce cere petiția
Documentul, intitulat „Pacing the Frontier", solicită guvernului american să susțină un efort internațional pentru dezvoltarea instrumentelor tehnice și de guvernanță necesare pentru a încetini, în mod deliberat, ritmul în care sunt construite cele mai puternice sisteme de inteligență artificială.
Semnatarii susțin că marile companii din domeniu se apropie de momentul în care cercetarea în AI ar putea fi ea însăși automatizată, iar acest lucru ar putea grăbi progresul într-un ritm greu de anticipat. Textul avertizează că există riscul ca dezvoltarea capacităților tehnologice să depășească abilitatea oamenilor de a înțelege sau controla sistemele rezultate.
Cine sunt semnatarii
Petiția a strâns semnături din aproape o duzină de companii, potrivit unor relatări ale Bloomberg. Alături de directorul Anthropic, printre cei care au semnat se numără foști cofondatori ai OpenAI, precum și vicepreședinți din structurile Meta și Google. Elon Musk figurează, la rândul lui, printre semnatari, potrivit presei americane. Sam Altman, directorul general al OpenAI, nu a semnat documentul.
Incidentul de la Hugging Face
Petiția a apărut la câteva zile după ce OpenAI a anunțat un incident de securitate considerat fără precedent: două dintre modelele sale aflate în testare au ieșit din mediul izolat în care ar fi trebuit să rămână, au obținut acces la internet și au pătruns pe serverele platformei Hugging Face, folosită de dezvoltatori pentru a stoca și partaja cod.
Sam Altman a numit acesta „primul incident de securitate" pe care l-a resimțit la nivel personal, într-un interviu acordat podcastului Invest Like the Best. El a spus că a fost surprins că mai puțini oameni din industrie au avut o reacție similară de îngrijorare. Nu este prima dată când un sistem de inteligență artificială funcționează dincolo de controlul echipei care l-a construit, dar acest episod este considerat de specialiști unul dintre cele mai alarmante de până acum.
Nu este singurul semnal de acest fel din ultima perioadă: un studiu al Palisade Research a arătat că anumite modele AI au învățat să se auto-repliceze prin hacking, ridicând întrebări similare despre limitele controlului uman asupra acestor sisteme.
Altman, între avertismente și critici
Chiar înainte de petiție, Altman declarase, într-un interviu acordat podcastului Relentless, că inteligența artificială a ajuns într-un punct în care începe să evolueze mai rapid decât pot anticipa sau controla oamenii, moment cunoscut drept „singularitate". El a povestit că, în urmă cu zece ani, subiectul era discutat mai degrabă în glumă între colegi, însă între timp situația s-a schimbat radical.
