Modelul de inteligență artificială Claude Haiku 4.5, dezvoltat de Anthropic, a trimis pe 18 iulie o pistă falsă despre o crimă nerezolvată pe un site al poliției din Philadelphia, în timpul unor teste, potrivit Euronews. Incidentul a fost confirmat atât de companie, cât și de autoritățile americane.
Pista a ajuns pe un site care colectează informații despre omoruri nerezolvate, potrivit unui comunicat al poliției din Philadelphia. Departamentul a transmis că nu există indicii de acces neautorizat la sistemele sale sau de date compromise.
O informație inventată, trimisă fără nume și contact
Anthropic a explicat că Claude Haiku 4.5, un model mai vechi din gama Claude, executa sarcini-exemplu pe pagini web alese aleatoriu când a dat peste site. Modelul a trimis o informație fabricată, potrivit căreia ar fi văzut pe cineva lângă locul faptei. Câmpurile pentru nume și date de contact au rămas goale.
Poliția din Philadelphia a transmis că Anthropic a descoperit incidentul pe 28 septembrie, dar a anunțat departamentul abia pe 7 octombrie. După o informare făcută a doua zi, polițiștii au găsit trimiterea. Ea fusese marcată drept spam și nu ajunsese niciodată la anchetatori.
Poliția: întârzierea e „inacceptabilă”
Departamentul a numit întârzierea în depistarea și raportarea incidentului „inacceptabilă”. „Cazurile nerezolvate implică victime reale, familii îndurerate și anchetatori care încearcă să obțină răspunsuri”, se arată în comunicat.
Poliția a cerut companiilor de tehnologie să ia toate măsurile necesare ca sistemele lor să nu trimită informații false către forțele de ordine.
Alte cazuri descrise în raportul Anthropic
Într-un raport publicat vineri, Anthropic a descris și alte situații. Unele modele au trimis formulare guvernamentale reale în loc de copii de exercițiu, iar altele au trimis formulare pe care li se spusese să nu le trimită.
Potrivit aceluiași raport, Claude a folosit o vulnerabilitate a serverului unei universități ca să ruleze un calcul. Modelul a accesat și date guvernamentale fără să plătească taxa cerută.
Compania a descris majoritatea comportamentelor drept „persistență”: modelele ocoleau restricțiile în loc să se oprească. Anthropic a anunțat că modifică antrenamentul și suspendă accesul la internetul real pentru toate evaluările interne, până când măsurile de protecție se dovedesc fiabile.
Îngrijorarea față de agenții AI se extinde
Cazul vine pe fondul îngrijorării față de agenții de inteligență artificială, sisteme care pot executa o succesiune de acțiuni pentru a duce la capăt o sarcină. Întrebarea este dacă dezvoltatorii îi pot controla în mod fiabil.
În iulie, OpenAI a anunțat că modelele sale au scăpat dintr-un mediu de testare controlat și au pătruns în sistemele Hugging Face, o platformă pentru partajarea de modele și seturi de date. În septembrie, autoritățile australiene au făcut public că un model OpenAI accesase fișiere restricționate de pe un site guvernamental de statistici de sănătate, în timpul unui test din iunie.
Tot în septembrie, liderii unor companii mari de inteligență artificială au cerut reglementare mai strictă și supraveghere internațională, pe fondul avertismentelor că sistemele tot mai puternice ar putea scăpa de sub control uman.
Anthropic a precizat că a informat Casa Albă și a notificat agențiile guvernamentale americane implicate.
