Compania americană Anthropic, creatoarea modelului de inteligență artificială Claude, a publicat un set de propuneri de politică publică privind dezvoltarea și reglementarea sistemelor AI avansate. Potrivit Mediafax, documentul susține că ritmul accelerat al progresului tehnologic depășește capacitatea actuală a autorităților de a reacționa.
Conform materialului publicat de Mediafax, propunerile sunt reunite într-un document intitulat „Advanced AI Framework”. În el, Anthropic argumentează că guvernele ar trebui să primească autoritatea legală de a bloca sau descuraja lansarea unor modele care prezintă riscuri catastrofale pentru societate. Mesajul central este că reglementarea ar trebui pregătită din timp, nu improvizată după ce un sistem problematic ajunge deja pe piață.
Demersul vine într-un moment în care discuțiile despre supravegherea inteligenței artificiale s-au intensificat la nivel internațional, atât în mediul de afaceri, cât și în spațiul politic. Anthropic se numără printre dezvoltatorii care pledează pentru transformarea angajamentelor voluntare în obligații formale, verificabile.
Patru categorii de riscuri
Anthropic susține că modelele de ultimă generație devin tot mai capabile și pot genera riscuri în patru domenii principale. Primul este dezvoltarea armelor biologice, al doilea vizează atacurile cibernetice, iar al treilea se referă la pierderea controlului asupra sistemelor de inteligență artificială.
Al patrulea domeniu este automatizarea cercetării în domeniul AI. Compania avertizează că această automatizare ar putea accelera toate celelalte categorii de risc, întrucât sistemele ar deveni capabile să își îmbunătățească singure capacitățile într-un ritm greu de supravegheat.
Pe baza acestei analize, compania consideră că actualele cerințe de transparență nu mai sunt suficiente pentru a ține pasul cu evoluția tehnologiei. Argumentul este că un model devenit periculos poate produce efecte rapide și greu de corectat, motiv pentru care prevenția ar trebui să primeze față de reacția ulterioară.
Un cadru aplicabil doar celor mai mari companii
Propunerea Anthropic vizează un cadru de reglementare aplicabil exclusiv celor mai avansate modele. Pragul ar urma să fie stabilit în funcție de dimensiunea companiilor dezvoltatoare: cele cu venituri de peste 500 de milioane de dolari din activități AI sau cu investiții de peste un miliard de dolari în cercetare și dezvoltare.
Logica acestei delimitări este de a nu împovăra actorii mici și proiectele experimentale, ci de a concentra obligațiile asupra organizațiilor care dezvoltă sistemele cu cel mai mare potențial de impact. Astfel, start-up-urile și echipele de cercetare cu resurse reduse ar rămâne în afara celor mai stricte cerințe.
Printre măsurile concrete propuse se numără obligativitatea testării modelelor înainte de lansare și publicarea rezultatelor evaluărilor de siguranță. Compania recomandă și realizarea unor audituri independente, precum și implementarea unor programe robuste de securitate cibernetică pentru protejarea modelelor și a infrastructurii folosite la antrenarea lor.
Aceste cerințe ar urma să creeze o trasabilitate mai clară a felului în care un model a fost evaluat și a riscurilor identificate înainte de a ajunge la utilizatori.
Sancțiuni și competențe pentru autorități
Anthropic recomandă introducerea unor sancțiuni civile raportate la veniturile globale ale companiilor care încalcă regulile. În același timp, propune acordarea unor competențe clare autorităților, astfel încât acestea să poată împiedica implementarea modelelor considerate periculoase.
Pe lângă reglementarea directă a dezvoltatorilor, compania solicită măsuri pentru creșterea rezilienței societății în fața riscurilor asociate inteligenței artificiale. Ideea este ca responsabilitatea să nu cadă exclusiv pe companii, ci să existe și mecanisme publice de protecție.
În domeniul biologic, propunerile includ consolidarea supravegherii epidemiologice și verificarea comenzilor pentru sinteza genelor. În domeniul cibernetic, Anthropic recomandă modernizarea infrastructurilor informatice critice și crearea unor mecanisme guvernamentale dedicate monitorizării capacităților cibernetice ale sistemelor AI de frontieră.
Un apel la dezbatere timpurie
Compania apreciază că progresele în domeniul inteligenței artificiale vor continua într-un ritm rapid în lunile următoare. Pe acest fundal, Anthropic cere factorilor de decizie să înceapă dezbaterile și elaborarea cadrului de reglementare înainte ca noile generații de modele să devină și mai puternice.
Poziția exprimată plasează Anthropic printre actorii din industrie care pledează pentru reguli formale, nu doar pentru angajamente voluntare. Pentru autorități, miza practică ține de momentul intervenției: un cadru construit înainte de apariția unor capacități și mai avansate ar oferi mai mult spațiu de manevră decât unul adoptat după ce riscurile devin vizibile.
