OpenAI lancerà un "quadro di preparazione" per la valutazione dei rischi dell'IA, dopo il reintegro del CEO
Summary:
OpenAI, uno sviluppatore di intelligenza artificiale (IA), prevede di introdurre un "quadro di preparazione". Questo schema include un team dedicato incaricato di valutare i rischi potenziali. La strategia mira ad aggiungere un sistema di pesi e contrappesi per proteggersi dai possibili rischi derivanti da modelli avanzati. Il piano include un processo in cui i rapporti sulla sicurezza vengono esaminati e quindi inviati per la revisione a livello aziendale, con il nuovo quadro che consente al consiglio di amministrazione di invertire le decisioni sulla sicurezza. Ciò segue un periodo turbolento per OpenAI, con il CEO Sam Altman che è stato licenziato e successivamente reintegrato. Tra il crescente interesse pubblico e le preoccupazioni per l'IA, i principali sviluppatori, tra cui OpenAI, hanno istituito il Frontier Forum per l'autoregolamentazione e l'amministrazione Biden ha delineato nuovi standard di sicurezza per l'IA.
OpenAI, uno sviluppatore di intelligenza artificiale (AI), ha recentemente divulgato i piani per lanciare un "Preparedness Framework". Questa strategia prevede la formazione di un team dedicato con l'obiettivo di valutare e prevedere i potenziali rischi. Il post sul blog dell'azienda, pubblicato di recente, datato 18 dicembre, affermava che questo "Preparedness Team" collegherà le divisioni di sicurezza e politica di OpenAI. Questo sistema, che funziona in modo da controllare e bilanciare, dovrebbe fungere da salvaguardia contro gli imminenti "rischi catastrofici" innescati da modelli sempre più sofisticati. OpenAI ha insistito sul fatto che avrebbe implementato la sua tecnologia solo con la garanzia di sicurezza. La nuova strategia proposta prevede che il comitato consultivo esamini i rapporti sulla sicurezza che verrebbero poi inoltrati ai dirigenti dell'azienda e al consiglio di amministrazione di OpenAI per la revisione. Nonostante i dirigenti abbiano l'autorità di emettere il verdetto finale, l'ultima proposta concede al consiglio la flessibilità di ribaltare le decisioni sulla sicurezza. Questa mossa è la conseguenza di uno sconvolgimento che OpenAI ha subito a novembre, segnato dall'improvviso licenziamento e dal conseguente reintegro di Sam Altman come CEO. Dopo il rientro di Altman in azienda, OpenAI ha rivelato il suo nuovo consiglio di amministrazione che include Bret Taylor (presidente), Larry Summers e Adam D'Angelo. Alla luce dei recenti lanci come ChatGPT nel novembre 2022, l'interesse del pubblico per l'IA è aumentato vertiginosamente, di pari passo con le crescenti ansie per i suoi potenziali danni alla società. A luglio, i principali sviluppatori di intelligenza artificiale, con partecipanti come OpenAI, Microsoft, Google e Antropic, hanno lanciato The Frontier Forum. Questo forum si concentra sulla supervisione dell'autoregolamentazione introdotta nella creazione di un'IA responsabile. L'amministrazione Biden ha anche introdotto un ordine esecutivo a ottobre che specifica nuove restrizioni di sicurezza per le organizzazioni che sviluppano modelli avanzati e li eseguiscono. Prima della dichiarazione di questo ordine esecutivo, i principali sviluppatori di IA sono stati convocati alla Casa Bianca per impegnarsi a creare modelli di IA sicuri e trasparenti, con OpenAI tra i partecipanti.
Published At
12/19/2023 11:36:24 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.