Rimpasto in OpenAI: i ricercatori chiave si dimettono a causa di opinioni diverse sulle priorità di sicurezza dell'IA
Summary:
I ricercatori chiave del team di OpenAI che si concentrano sui potenziali rischi dell'IA si sono dimessi o sono stati riassegnati a causa di disaccordi sulle priorità dell'organizzazione. Ciò segue la partenza di Ilya Sutskever, capo scienziato di OpenAI, e Jan Leike, co-capo del team di super allineamento. Leike ha sottolineato l'urgente necessità di risorse per la ricerca sulla sicurezza, criticando OpenAI per aver dato priorità allo sviluppo del prodotto rispetto alla sicurezza dell'IA. La recente mossa di sciogliere il team "Superalignment" è arrivata nel bel mezzo della ristrutturazione interna in corso dell'azienda. Sutskever aveva precedentemente indicato che le decisioni del consiglio miravano a garantire l'adesione di OpenAI allo sviluppo di AGI a beneficio dell'umanità.
Nelle ultime notizie, OpenAI ha visto un cambiamento completo nel suo team che aveva indagato con veemenza sui potenziali pericoli dell'intelligenza artificiale, con tutti i membri che hanno lasciato i loro posti o sono stati riassegnati a varie fazioni di ricerca. Questo segue da vicino la scia del capo scienziato e co-fondatore di OpenAI, Ilya Sutskever, che ha reso pubblica la sua decisione di lasciare l'azienda. Inoltre, l'autorità senior del team di super allineamento di OpenAI, Jan Leike, precedentemente associato a DeepMind, si è dimesso dalla sua posizione e ha comunicato ufficialmente le sue dimissioni sulla piattaforma X.
L'uscita di Leike è stata attribuita alla sua sfiducia negli attuali obiettivi dell'azienda, che percepisce come una virata verso la concentrazione sul perfezionamento del prodotto piuttosto che sull'affermazione dell'importanza della sicurezza dell'IA. In una serie di pubblicazioni, Jan Leike non è d'accordo con l'enfasi della direttiva di OpenAI e ha esortato la direzione a prestare attenzione alla sicurezza e alla prontezza per quanto riguarda la progressione dell'AGI o Intelligenza Artificiale Generale, una forma teorica di intelligenza artificiale che dovrebbe eguagliare o addirittura superare le capacità umane nell'esecuzione di un'ampia gamma di compiti.
Dopo aver dedicato tre anni della sua carriera a OpenAI, Leike ha espresso le sue preoccupazioni in merito al trattamento preferenziale dell'organizzazione nei confronti dello sviluppo di prodotti glamour, mettendo da parte la promozione cruciale di una cultura sana e di sistemi incentrati sulla sicurezza dell'IA. Ha sottolineato con veemenza la necessità di riallocare le risorse, in primo luogo l'abilità computazionale, per sostenere la sostanziale ricerca orientata alla sicurezza guidata dal suo team, un compito che è stato vistosamente ignorato.
OpenAI ha intrapreso la formazione di un nuovo gruppo di ricerca nel luglio dell'anno precedente, con l'obiettivo di prepararsi per la possibile emersione di un'intelligenza artificiale genialmente efficiente che sia in grado di superare e sopraffare i suoi inventori umani. A capo di questa nuova fazione c'era il capo scienziato e co-fondatore di OpenAI, Ilya Sutskever, sostenuto dal 20% delle risorse computazionali di OpenAI.
Alla luce della recente ondata di dimissioni, OpenAI ha deciso di smantellare il team "Superalignment" e di unire le sue responsabilità all'interno di altre iniziative di ricerca di sua competenza. Questa mossa è percepita come conseguente ai cambiamenti di ristrutturazione all'interno dell'organizzazione, che hanno avuto la loro genesi nell'affrontare la crisi gestionale che ha afflitto nel novembre 2023. Sutskever ha svolto un ruolo significativo nel facilitare la momentanea estromissione del CEO Altman dal consiglio di amministrazione di OpenAI durante questo periodo, che è stato presto reintegrato in seguito alla resistenza del corpo dei dipendenti.
Secondo quanto riferito, Sutskever ha chiarito alla forza lavoro che la determinazione del consiglio di amministrazione di destituire Sam Altman dalla sua posizione era in linea con il loro mandato di garantire che lo sviluppo AGI di OpenAI sia nel migliore interesse dell'umanità. In qualità di persona cruciale tra i sei membri del consiglio, Sutskever ha fatto eco all'impegno del consiglio a rafforzare la missione di OpenAI in armonia con il più ampio obiettivo comune.
Published At
5/18/2024 2:30:32 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.