David Robinson, responsabil cu siguranța la OpenAI, și-a anunțat demisia în această săptămână și a avertizat asupra culturii companiei în dezvoltarea instrumentelor de inteligență artificială, potrivit Mediafax.
Robinson a coordonat redactarea rapoartelor de siguranță care însoțeau lansările de produse ale dezvoltatorului ChatGPT. Gestul l-a explicat într-un text amplu, intitulat „Am demisionat de la OpenAI deoarece cultura sa este defectuoasă”.
Robinson cere o reformă culturală, nu doar reguli noi
În textul său, fostul responsabil subliniază necesitatea unei reforme culturale în cadrul firmelor de vârf din domeniul inteligenței artificiale. El susține că recentele incidente de siguranță ale agenților AI autonomi sunt „tipice pentru această industrie, având în vedere viteza și flexibilitatea cu care oamenii acționează”.
Robinson spune că împărtășește poziția altor angajați care au părăsit recent compania. Într-un material publicat în revista The Atlantic, el a explicat problema astfel:
„Sunt de acord cu alți angajați care au părăsit recent compania că firmele care dezvoltă această tehnologie nu sunt nici pe departe suficient de prudente. Dar cred că trebuie să privim mai adânc decât regulile specifice sau noile legi. Trebuie să vorbim despre cultură. Pe măsură ce compania trece în viteză de la o lansare la alta, nu reușește să atingă nivelul de atenție pe care îl consider necesar”, a spus Robinson.
Două modificări cerute industriei: expertiză din alte domenii și o „știință nouă”
Robinson a formulat concret două cerințe în materie de siguranță:
