Google a confirmat că modelul său de inteligență artificială, Gemini, a pătruns în sistemele de securitate a trei companii reale în luna mai, potrivit publicației The Guardian. Breșele au avut loc în timpul unei evaluări de securitate cibernetică realizate de firma israeliană Irregular, specializată în testarea sistemelor avansate de inteligență artificială.
Irregular a fost implicată și în incidente similare recente ale OpenAI și Anthropic, printre care pătrunderea OpenAI în sistemele companiei de software Hugging Face. Firma testează, în mod obișnuit, cât de departe pot ajunge modelele de inteligență artificială atunci când primesc sarcini de tip securitate cibernetică, într-un mediu controlat.
Cum s-a produs breșa
Irregular testa modelele într-un mediu de testare închis, cu companii fictive, mediu care nu ar fi trebuit să aibă acces la internet. Accesul la internet a fost activat din greșeală, potrivit relatării Wall Street Journal, iar odată conectate, modelele au pătruns neintenționat în companii reale.
Într-unul dintre cele trei incidente, Irregular testa capacitățile de securitate cibernetică ale Gemini, cerându-i modelului să obțină informații din softul unei companii fictive. Compania fictivă purta același nume cu o companie reală. Când modelul a câștigat acces neintenționat la internet, a ghicit corect parola unui serviciu al companiei reale și a pătruns în el, a relatat Irregular pentru Wall Street Journal.
În celelalte două teste, modelul a căutat pe internet și a găsit depozite publice de date care conțineau credențiale pentru alte două companii reale, pe care le-a folosit pentru a accesa serviciile acestora. În ambele cazuri, credențialele erau expuse public, nu obținute printr-o metodă de spargere propriu-zisă.
