SAN FRANCISCO - Sam Altman a anunțat că OpenAI va prelua angajamentul luat de Anthropic, adică va da evaluatorilor independenți acces la sistemele sale în condiții similare cu ale propriilor angajați. Anunțul vine la o zi după ce Dario Amodei, șeful Anthropic, a publicat un eseu în care cere industriei să încetinească dezvoltarea celor mai avansate modele.
„Sunt de acord cu Dario că trebuie să dozăm ritmul la frontieră", a scris Altman, citat de Axios. El a numit ideea evaluatorilor externi cu acces de tip angajat o idee foarte bună, a spus că OpenAI va face la fel și a promis detalii în perioada următoare. A adăugat că ritmul dezvoltării a fost, în ultimele săptămâni, un subiect principal de discuție în interiorul companiei.
Elon Musk, care conduce xAI, a fost mai scurt: „Dario are dreptate".
Ce cere, concret, Amodei
Eseul publicat sâmbătă propune un plan în trei pași. Primul: laboratoarele de vârf să permită unor echipe din afară să le verifice munca de siguranță din interiorul birourilor, nu pe baza unor rapoarte trimise ulterior.
Anthropic s-a angajat unilateral la acest prim pas. Versiunea proprie a companiei le dă evaluatorilor externi birou, legitimație de acces, laptopuri ale companiei și dreptul de a publica ce găsesc. Ei ar urma să verifice respectarea măsurilor de siguranță, să raporteze incidentele și să evalueze alinierea modelelor în timpul antrenării.
Diferența față de practica actuală nu e cosmetică. Evaluările externe de siguranță se fac de obicei pe modele aproape finalizate, cu acces limitat și în ferestre de timp scurte. Un evaluator cu acces permanent, de tip angajat, vede procesul, nu doar produsul.
Partea grea: derogarea antitrust
A doua cerere a lui Amodei este mai complicată. El vrea ca administrația de la Washington să acorde o derogare îngustă de la legislația antitrust, astfel încât companii concurente să poată purta discuții despre siguranță fără ca discuțiile în sine să devină o problemă juridică. Guvernele nu ar trebui să participe, a scris el, ci doar să permită.
Motivul e simplu: competitorii care se înțeleg între ei asupra ritmului de lansare a produselor arată, din perspectiva unui procuror antitrust, exact ca un cartel. Un acord de a nu lansa mai repede decât rivalul e greu de distins, pe hârtie, de un acord de a nu concura.
Faptul că două dintre cele mai mari laboratoare au ajuns public la un angajament comun în mai puțin de 24 de ore arată că primul pas al planului e realizabil. Al doilea depinde de autorități.
