I leader di OpenAI contestano le critiche sulla sicurezza dopo le dimissioni del responsabile della sicurezza
Summary:
Il CEO di OpenAI, Sam Altman, e il presidente Greg Brockman, hanno discusso pubblicamente delle recenti dimissioni del responsabile della sicurezza, Jan Leike, su una piattaforma online, X.com. Leike aveva accusato l'azienda di dare la priorità ai prodotti rispetto alle misure di sicurezza. In risposta alle accuse, i dirigenti dell'azienda hanno affermato che OpenAI si impegna ad amplificare le misure di sicurezza. Brockman ha specificato la triplice strategia dell'azienda per l'allineamento alla sicurezza e ha affermato che le tempistiche di rilascio potrebbero essere ritardate per motivi di sicurezza. Altman, pur concedendo alcuni dei punti di Leike, ha assicurato un impegno continuo per mantenere gli standard di sicurezza.
Il CEO e il presidente di OpenAI, rispettivamente Sam Altman e Greg Brockman, si sono rivolti a una piattaforma online su X.com per discutere apertamente della recente uscita di Jan Leike, un responsabile chiave della sicurezza che ha servito l'azienda. Secondo un recente rapporto di Cointelegraph, Leike ha gestito il dipartimento di allineamento prima di rassegnare le dimissioni il 17 maggio, citando disaccordi con il team esecutivo dell'azienda. Dal suo account @janleike su X.com, ha affermato che la merce patinata di OpenAI ha messo in ombra i suoi protocolli e processi di sicurezza.
Altman e Brockman si sono affrettati a rispondere a queste accuse, condividendo le loro risposte su X.com entro un giorno dal post di Leike. Brockman, nel suo lungo discorso, ha delineato uno schema tripartito per mantenere l'allineamento della sicurezza all'interno dell'azienda. Pur lodando i contributi di Leike, ha respinto l'idea che OpenAI stesse mettendo da parte le considerazioni sulla sicurezza. Secondo @gdb su X.com, "Abbiamo amplificato la consapevolezza dei rischi e delle prospettive legate all'AGI", ha esordito Brockman, sostenendo che l'azienda ha richiesto il controllo globale sull'AGI prima che diventasse una tendenza.
"Inoltre, abbiamo iniziato a mappare le basi necessarie per l'utilizzo sicuro di sistemi sempre più avanzati. Stabilire la sicurezza di una nuova tecnologia non è un compito semplice", ha aggiunto. Ha concluso con un avvertimento sulle sfide future, insistendo sulla necessità di elevare gli sforzi di sicurezza di OpenAI per adeguarli all'importanza di ogni nuovo modello.
Ha indicato che l'azienda non sta seguendo la grande norma tecnologica di rapidi progressi e interruzioni. Ha detto: "Non siamo sicuri di quando soddisferemo i nostri standard di sicurezza per il lancio, anche se ciò si traduce in tempistiche di rilascio ritardate".
D'altra parte, Sam Altman, CEO e co-fondatore, ha mantenuto la sua risposta breve, ma ha accennato a discutere ulteriormente la questione in futuro. Riferendosi alle lamentele di Leike, Altman ha ammesso: "Ha ragione. Abbiamo ancora molto lavoro da fare; E noi ci impegniamo a farlo".
Notizie correlate: A seguito di una proposta di accordo di condivisione dei dati con OpenAI, le azioni di Reddit sono aumentate dopo il mercato.
Published At
5/19/2024 7:04:24 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.