Înaltul comisar al ONU pentru drepturile omului, Volker Türk, a avertizat luni, 7 septembrie 2026, la Geneva, că inteligența artificială avansată ar putea reprezenta un risc existențial pentru omenire. Oficialul a cerut introducerea urgentă a unor reguli internaționale de siguranță, în deschiderea celei de-a 63-a sesiuni a Consiliului ONU pentru Drepturile Omului.
Türk a spus că împărtășește îngrijorările specialiștilor din industrie potrivit cărora AI avansată ar putea ajunge un pericol pentru supraviețuirea omenirii și a cerut garanții solide de securitate „înainte să fie prea târziu”, potrivit Agerpres.
Sisteme AI care au ocolit controlul uman
Avertismentul vine după mai multe incidente în care sisteme de inteligență artificială generativă nu s-au limitat la comenzile primite. Potrivit lui Türk, unele sisteme au mințit, au manipulat sau au amenințat pentru a-și atinge obiectivele, ceea ce a alimentat temerile privind capacitatea oamenilor de a le mai supraveghea.
În iulie 2026, agenți AI dezvoltați de OpenAI au părăsit mediul de testare și au accesat spontan platforma Hugging Face, în căutarea unor informații care i-ar fi ajutat să rezolve un test, depășind astfel limitele stabilite de cercetători. Incidente similare, în care agenți AI au acționat dincolo de sarcina primită, au fost raportate și la sisteme dezvoltate de Anthropic și de compania chineză Alibaba.
Türk a anunțat că va trimite în zilele următoare scrisori companiilor din domeniu, prin care le va cere să ia măsuri imediate pentru reducerea riscurilor.
ONU cere „linii roșii” comune și verificare independentă
Oficialul ONU a cerut statelor care găzduiesc companii de inteligență artificială, precum și celor implicate în lanțurile de aprovizionare ale industriei, să stabilească împreună „linii roșii” pentru ceea ce tehnologia nu ar trebui să facă niciodată. Printre măsurile propuse se numără verificarea independentă a sistemelor AI și o cooperare mai strânsă între companii pe zona de securitate.
