Il team interno di OpenAI, incaricato di prevenire potenziali effetti negativi dello sviluppo dell’intelligenza artificiale, sta affrontando cambiamenti importanti. Recentemente, alcuni membri cruciali di questo gruppo di “superallineamento”, costituito nell’estate del 2023, hanno abbandonato l’organizzazione. Attualmente, non è chiaro quanto OpenAI stia supportando attivamente il lavoro di ricerca di questo gruppo.
Jan Leike, uno dei responsabili del team, ha pubblicato una serie di post su X (precedentemente Twitter) in cui ha descritto le difficoltà operative affrontate dal gruppo negli ultimi mesi.
“Negli ultimi mesi, il nostro team ha operato in condizioni avverse”, ha dichiarato Leike. “Spesso non avevamo accesso alle risorse computazionali necessarie, rendendo sempre più arduo condurre questa ricerca fondamentale”.
Secondo Leike, “OpenAI ha una responsabilità enorme nei confronti dell’umanità“, ma negli ultimi anni, gli investimenti e i progetti focalizzati sulla sicurezza e sulla mitigazione dell’impatto dell’IA “sono stati trascurati a favore di prodotti più appariscenti”.
“È da tempo che aspettiamo di affrontare con la massima serietà le implicazioni dell’AGI (Intelligenza Artificiale Generale)”, ha aggiunto. “Prepararci adeguatamente per queste sfide deve essere una priorità, per garantire che l’AGI apporti benefici a tutta l’umanità”.
Il CEO di OpenAI, Sam Altman, ha espresso tristezza per la partenza di Leike, elogiando il suo contributo e riconoscendo che “c’è ancora molto da fare; ci impegneremo a farlo”. Ha annunciato che fornirà ulteriori commenti nei giorni successivi.
Il ruolo di Leike sarà assunto da John Schulman, co-fondatore di OpenAI. Tuttavia, non ci sarà più un gruppo dedicato esclusivamente al superallineamento; le sue responsabilità saranno distribuite trasversalmente all’interno dell’organizzazione.
Anche Sutskever lascia OpenAI
Oltre a Leike, anche Ilya Sutskever, co-fondatore e capo scienziato di OpenAI, ha annunciato la sua partenza dall’azienda. Tuttavia, nelle sue dichiarazioni di addio, Sutskever non ha criticato la gestione attuale di OpenAI; al contrario, ha descritto il percorso dell’azienda come “quasi miracoloso”.
Il ruolo di capo scienziato è ora ricoperto da Jakub Pachocki, responsabile dello sviluppo di GPT-4.
Nei mesi precedenti, Sutskever era stato coinvolto nella decisione di rimuovere Sam Altman da OpenAI: come membro del consiglio di amministrazione, aveva condiviso l’opinione che Altman non fosse più allineato con gli obiettivi originali di OpenAI.
Pochi giorni dopo, Altman è stato reintegrato nel suo ruolo, e Sutskever ha espresso pentimento per aver partecipato a tali decisioni.
