OpenAI sta chiudendo una settimana con diverse novità, anche se non tutte piacevoli. Dopo l’annuncio di GPT-4o, l’azienda ha subito la partenza di Ilya Sutskeverex scienziato capo della startup, e altri ricercatori chiave.
Questo venerdì, la partenza di Jan Leikeche ha guidato il team OpenAI nell’analisi dei rischi a lungo termine dell’IA. La notizia è emersa in un lungo thread pubblicato dal già citato su X (Twitter)poco dopo Wired ha riferito che il team di sicurezza è stato smantellato.
Il gruppo in questione, noto come “squadra di superallineamento”, è stato sotto la guida di Leike fin dalla sua formazione nel luglio 2023. Tuttavia, l’esperto faceva parte di OpenAI da circa tre anni. Nell’annunciare le sue dimissioni, il ricercatore ha sottolineato le sue divergenze con il consiglio di amministrazione della startup guidata da Sam Altman. Ha sostenuto che l’azienda ha scelto di dare priorità al lancio di nuovi prodotti, a scapito della sicurezza.
“Sono entrato a far parte dell’azienda perché pensavo che OpenAI fosse il posto migliore al mondo per fare questa ricerca. Tuttavia, sono stato in disaccordo con la leadership di OpenAI sulle priorità fondamentali dell’azienda per un bel po’ di tempo, fino a quando non abbiamo raggiunto un punto di rottura”, ha detto Leike, aggiungendo: “Penso che molta più larghezza di banda dovrebbe essere spesa per preparare le prossime generazioni di modelli sulla sicurezza, il monitoraggio, la preparazione, la sicurezza, la robustezza avversaria, il (super)allineamento, la riservatezza, l’impatto sociale e le questioni correlate. È piuttosto difficile risolvere questi problemi e sono preoccupato che non siamo sulla strada giusta per arrivarci”.
Ma Leike non si è fermato qui. Il ricercatore ha detto che negli ultimi mesi il suo team è stato costretto a navigare controcorrente, soffrendo persino di una carenza della potenza di calcolo necessaria per portare avanti la ricerca. E ha lanciato una frecciatina a Sam Altman e compagnia: “Negli ultimi anni, la cultura e i processi di sicurezza sono passati in secondo piano rispetto ai prodotti luccicanti..
OpenAI perde una figura chiave del suo team di sicurezza
Jan Leike non è il primo ricercatore a lasciare OpenAI negli ultimi tempi in disaccordo con la direzione della startup. Ieri si è saputo che Daniel Kokotajloun esperto che faceva parte del team etico dell’azienda, si è dimesso ad aprile dopo aver perso la fiducia nell’azienda. Ha spiegato di aver chiesto al consiglio di amministrazione di mettere in pausa lo sviluppo dell’intelligenza artificiale generale (AGI) per studiare l’impatto sociale che la tecnologia potrebbe avere. Tuttavia, questa richiesta è stata ignorata a causa della forte concorrenza nel settore.
Nel suo commiato, Leike ha anche sottolineato la necessità che OpenAI metta al centro la sicurezza quando lavora sull’AGI. “È da tempo che dobbiamo prendere incredibilmente sul serio le implicazioni dell’intelligenza artificiale generale. Dobbiamo dare la priorità a prepararci al meglio. Solo così potremo garantire che l’AGI porti benefici a tutta l’umanità. OpenAI deve diventare un’azienda di intelligenza artificiale generale che dia priorità alla sicurezza”, ha scritto.
Sam Altman, leader dell’azienda, non è rimasto indifferente alle parole del ricercatore. Via X (Twitter), il dirigente ha deplorato la partenza di Leike e ha promesso di approfondire la sua richiesta nei prossimi giorni. “Ha ragione: abbiamo molto da fare e ci impegniamo a farlo”, ha detto.