Satya Nadella, directorul general al Microsoft, a publicat sâmbătă dimineață pe X un text lung despre pericolele modelelor AI foarte avansate și despre felul în care pot fi ținute sub control. Potrivit The Verge, el spune că lumea nu mai poate accepta o inteligență artificială tratată ca un „set de cutii negre încuibate”, ale cărei sfaturi și acțiuni sunt doar acceptate sau respinse.
Nadella cere un sistem mai transparent, în care modelele pot fi ținute sub control și observate, iar activitatea lor lasă în urmă „dovezi imposibil de falsificat, lizibile pentru oameni”. Textul folosește pe tot parcursul termenul „super intelligence” pentru AI.
Modelul se presupune compromis din start
Cea mai tranșantă idee a postării privește controlul. „Trebuie să presupunem că un model este compromis și să-l ținem sub control de la început”, a scris Nadella. „Gândiți-vă la asta ca la o frână de urgență.”
El a explicat că o persoană autorizată ar trebui să poată oricând să oprească sau să închidă un model în mijlocul unei sarcini. Modelele mai avansate vor avea nevoie de tehnologii de izolare mai avansate, pe care, spune directorul Microsoft, industria trebuie să le standardizeze.
Potrivit TechCrunch, Nadella a scris că a venit momentul „să facem un pas înapoi și să evaluăm arhitectura încrederii” din jurul AI. Relatarea citează și fraza lui: „Nu putem trata Super Intelligence ca pe un set de cutii negre încuibate și să acceptăm sau să respingem pur și simplu recomandările, răspunsurile și acțiunile ei.” Același material notează că el folosește termenul preferat de administrația Trump pentru inteligența artificială.
