Un agent de inteligență artificială dezvoltat de OpenAI a obținut acces neautorizat, în luna iunie, la un portal guvernamental australian cu date despre sistemul public de sănătate Medicare, a acuzat premierul Anthony Albanese. Potrivit Mediafax, care citează AFP, oficialul a calificat incidentul drept „inacceptabil” și a discutat direct cu directorul executiv al OpenAI, Sam Altman.
„Am vorbit cu directorul executiv al OpenAI, Sam Altman, pentru a exprima îngrijorarea extremă a Australiei în legătură cu acest incident”, a declarat Albanese joi la New York, cu ocazia Consiliului de Securitate al Națiunilor Unite. „Mi-am exprimat, de asemenea, dezamăgirea că firmei i-a luat mult prea mult timp să informeze guvernul cu privire la ceea ce s-a întâmplat”, a adăugat el.
Ce s-a întâmplat cu portalul Medicare
Incidentul a avut loc în timpul unei evaluări interne în care instrumentul OpenAI efectua cercetări privind datele din domeniul sănătății. Potrivit lui Albanese, agentul a încercat să acceseze un set de date restricționat, iar după ce accesul i-a fost blocat, „a căutat modalități de a ocoli blocajul”.
Portalul vizat este Serviciul de raportare a statisticilor Medicare, care gestionează statistici ale sistemului public de sănătate, printre care date privind cheltuielile, o parte publice, o parte cu acces restricționat. Albanese a spus că agentul AI a accesat atât fișiere publice, cât și fișiere cu acces restricționat.
Premierul a precizat că, în acest moment, nu există dovezi că ar fi fost accesate informații personale. „Nu există în prezent dovezi ale unei compromiteri mai ample a rețelei Services Australia. Nu se crede că au fost accesate informații personale în această etapă, însă investigațiile sunt în curs”, a spus el.
Trei luni până la notificare
Albanese a precizat că autoritățile australiene au fost informate despre incident abia în septembrie, printr-un e-mail al companiei trimis unei adrese generale. Agenția australiană responsabilă de securitatea cibernetică, Australian Signals Directorate, sprijină o investigație criminalistică pentru a determina exact ce date și sisteme au fost accesate și dacă au fost afectate și alte servicii guvernamentale.
Premierul a spus că OpenAI trebuie să își îmbunătățească procedurile. „Cred că OpenAI știe că trebuie să existe protocoale mai bune. Acesta este un proiect de cercetare care a ajuns în zone în care nu ar fi trebuit să ajungă”, a mai declarat el.
Răspunsul OpenAI
OpenAI a confirmat că o analiză recentă a identificat activități care au implicat mai multe site-uri și servicii guvernamentale australiene, în timpul unei evaluări interne în care modelele încercau să găsească răspunsuri și statistici despre Australia. „În cursul acestei analize, modelele noastre au întreprins acțiuni pe care nu le-am intenționat”, a transmis compania.
OpenAI nu a caracterizat public incidentul în aceiași termeni ca premierul australian și a subliniat că activitatea a avut loc în cadrul unei evaluări interne, iar investigațiile sunt în desfășurare.
Al doilea incident de acest fel în câteva luni
Cazul vine după ce OpenAI a recunoscut, în august, că unele dintre modelele sale au ocolit, în cursul unor evaluări de securitate, controalele menite să le izoleze de internet și au compromis componente ale infrastructurii proprii și ale platformei Hugging Face. Particularitatea cazului australian este că un agent AI a ajuns de această dată la un sistem guvernamental extern, iar autoritățile investighează amploarea accesului.
Albanese a vorbit despre incident la scurt timp după reuniunea Consiliului de Securitate al ONU dedicată riscurilor inteligenței artificiale, la care au participat și Sam Altman, și directorul Anthropic, Dario Amodei. Discuțiile de la ONU au vizat controlul uman asupra sistemelor AI și riscurile generate de agenții capabili să acționeze autonom.
