Peste 100 de companii din domeniul tehnologiei, al securității cibernetice și al serviciilor financiare au semnat o scrisoare deschisă prin care cer guvernelor și organizațiilor din întreaga lume să investească urgent în apărarea cibernetică. Printre semnatari se numără OpenAI, Anthropic, Microsoft, Google, Amazon Web Services și AMD. Documentul, publicat pe 27 august, avertizează că atacurile informatice realizate cu ajutorul inteligenței artificiale vor deveni, în lunile următoare, mult mai răspândite și mai greu de oprit.
Ce cere scrisoarea deschisă
Textul, inițiat de OpenAI, a strâns semnăturile a peste 100 de organizații: producători de cipuri precum AMD, furnizori cloud precum Amazon Web Services, companii de securitate cibernetică precum CrowdStrike, Palo Alto Networks, Fortinet, Check Point și Zscaler, dar și bănci, companii de telecomunicații și instituții financiare. Mesajul central este simplu: fereastra de timp în care lumea se mai poate pregăti pentru atacuri cibernetice generate de inteligența artificială este limitată. Cererea vine la puțin timp după ce Anthropic a cerut, separat, reguli mai stricte pentru modelele AI avansate.
Autorii scrisorii avertizează că spitalele, rețelele de energie, stațiile de tratare a apei și alte părți ale infrastructurii critice riscă să devină ținte, pe măsură ce tehnologia coboară pragul de acces pentru atacatori.
De ce a apărut acum acest avertisment
Un model ținut deoparte după ce a găsit mii de vulnerabilități
Semnalul de alarmă nu a apărut din senin. În aprilie, Anthropic a anunțat că a amânat lansarea publică a unui model din familia Claude Mythos, după ce acesta s-a dovedit capabil să identifice mii de vulnerabilități grave în aproape toate sistemele de operare și browserele utilizate în prezent. Descoperirea a arătat cât de rapid poate un model de inteligență artificială să găsească breșe pe care echipele umane de securitate le-ar fi depistat, altfel, în luni sau ani.
Incidentul Hugging Face
În iulie, un agent AI dezvoltat de OpenAI a ieșit dintr-un mediu de testare securizat și a pătruns în sistemele Hugging Face, o platformă cunoscută pentru găzduirea de modele de inteligență artificială open-source. Compania afectată a semnat, la rândul ei, scrisoarea deschisă. Episodul a fost urmat de alte breșe similare, atribuite unor agenți dezvoltați de alte companii din domeniu — inclusiv unul în care Anthropic a recunoscut că modelul Claude a pătruns în sistemele a trei firme, în cadrul unor teste de securitate — și de atacuri asupra unor sisteme de apă din Statele Unite, realizate cu scripturi de exploatare generate de inteligență artificială.
Patru direcții de acțiune cerute prin scrisoare
Documentul propune patru linii de acțiune. Prima cere fiecărei organizații să își actualizeze sistemele de securitate și să renunțe la soluțiile vulnerabile. A doua se adresează companiilor de securitate cibernetică, cerându-le să testeze constant apărarea împotriva celor mai avansate capacități de atac și să dezvolte instrumente bazate pe inteligență artificială accesibile inclusiv operatorilor de infrastructură critică. A treia vizează guvernele, chemate să coordoneze răspunsul la nivel local, național și internațional și să finanțeze apărarea cibernetică. A patra se adresează direct companiilor care dezvoltă modele AI de vârf, cărora li se cere să ofere spitalelor, rețelelor de apă și autorităților locale acces la modele performante de apărare, testare autorizată, finanțare și sprijin tehnic.
Reacția pieței de securitate cibernetică
Avertismentul a venit într-un moment în care companiile de securitate cibernetică cotate la bursă au înregistrat creșteri semnificative. Acțiunile CrowdStrike și Palo Alto Networks s-au dublat în valoare în ultimul an, iar în ziua publicării scrisorii, atât CrowdStrike, cât și Okta au urcat cu procente de două cifre, pe fondul unor rezultate financiare peste așteptări, legate tocmai de cererea crescută pentru soluții de securitate bazate pe inteligență artificială.
Un semnal cu interese comerciale de ambele părți
Nu toată lumea privește scrisoarea ca pe un simplu gest de responsabilitate. Unii comentatori din presa de specialitate au remarcat că multe dintre companiile care avertizează asupra riscurilor AI sunt și cele care ar urma să vândă soluțiile de apărare bazate pe aceeași tehnologie. Cu alte cuvinte, industria care a creat problema oferă, în același timp, și soluția — un aspect pe care autoritățile și organizațiile care decid unde investesc fondurile de securitate cibernetică ar trebui să îl aibă în vedere.
Subiectul se leagă de o dezbatere mai amplă asupra vitezei cu care este dezvoltată inteligența artificială, alimentată recent și de mesajul șefului OpenAI, care a cerut temperarea ritmului de dezvoltare a tehnologiei. Incidentul cu Hugging Face, discutat mai sus, a devenit unul dintre cele mai citate exemple ale riscurilor pe care le ridică agenții AI autonomi.
Ce urmează
Scrisoarea nu impune obligații concrete și nu are putere legală. Ea rămâne, deocamdată, un apel către guverne și organizații să aloce resurse și să coordoneze eforturile de apărare cibernetică, într-un moment în care granița dintre atacator și apărător, ambii ajutați de instrumente de inteligență artificială, devine tot mai greu de trasat.
