OpenAI introduce un team di "preparazione" per contrastare potenziali catastrofi dell'IA
Summary:
OpenAI, la società di ricerca e sviluppo dell'IA, ha annunciato la sua nuova iniziativa, "Preparedness", incentrata sulle potenziali minacce dell'IA. Questo team, guidato da Aleksander Madry, monitorerà, valuterà, anticiperà e ridurrà al minimo i potenziali rischi catastrofici derivanti dall'IA. Le principali aree di interesse saranno le minacce chimiche, biologiche, radiologiche e nucleari, la persuasione individualizzata, la sicurezza informatica e l'adattamento autonomo della replica. Inoltre, OpenAI ha lanciato una AI Preparedness Challenge, fornendo 25.000 dollari in crediti API ai migliori proposti. L'azienda sta anche sollecitando candidati provenienti da varie discipline tecniche per entrare a far parte del nuovo team.
OpenAI, l'organizzazione responsabile dello sviluppo e della ricerca della tecnologia AI, tra cui ChatGPT, sta avviando un nuovo piano strategico per identificare e affrontare un'ampia gamma di pericoli legati all'IA. L'organizzazione ha rivelato il 25 ottobre che sta sviluppando un team specializzato per identificare, valutare, prevedere in modo proattivo e proteggersi da potenziali pericoli disastrosi derivanti dall'applicazione della tecnologia AI. Denominata unità "Preparedness", questa divisione focalizzata di OpenAI si concentrerà principalmente sui potenziali rischi dell'IA associati a danni chimici, biologici, radiologici e nucleari, insieme alla persuasione personalizzata, alla sicurezza informatica e alla replica ed evoluzione autonoma. Guidato da Aleksander Madry, l'equipaggio di Preparedness cercherà di determinare l'entità del pericolo che i sistemi di IA di frontiera potrebbero rappresentare se utilizzati in modo improprio e se questi sistemi potrebbero essere efficacemente utilizzati da individui malintenzionati che hanno acquisito pesi di modelli di IA rubati. OpenAI ha dichiarato: "I modelli di IA di frontiera, con il loro potenziale di superare le capacità dei modelli più sofisticati attualmente esistenti, offrono la promessa di apportare enormi benefici all'umanità". Tuttavia, l'azienda ha anche confessato i rischi sempre crescenti che questi modelli presentano. L'azienda ha inoltre spiegato: "Prendiamo sul serio ogni rischio per la sicurezza legato all'IA, dai sistemi attuali ai picchi immaginabili della superintelligenza. Per garantire la sicurezza dei sofisticati sistemi di intelligenza artificiale, stiamo affinando la nostra strategia di preparazione contro i rischi catastrofici". OpenAI ha spiegato nel suo post sul blog che sono attualmente alla ricerca di persone qualificate provenienti da diversi background tecnici per unirsi al team di preparazione. Inoltre, hanno dato il via all'AI Preparedness Challenge per incoraggiare iniziative volte a prevenire l'uso improprio catastrofico, con i primi 10 partecipanti che hanno ricevuto $ 25.000 in crediti API. È interessante notare che l'azienda aveva rivelato l'intenzione di istituire un team che affrontasse i potenziali rischi dell'IA nel luglio 2023. C'è stata un'enfasi ricorrente sui pericoli legati alla tecnologia dell'IA, insieme alle preoccupazioni che l'IA possa potenzialmente superare l'intelletto umano. Nonostante siano consapevoli di questi rischi, aziende come OpenAI hanno continuato a far progredire attivamente la tecnologia dell'IA, alimentando così ulteriori apprensioni. Nel maggio 2023, l'organizzazione senza scopo di lucro Center for AI Safety ha pubblicato una lettera pubblica sottolineando il rischio dell'IA, sollecitando un'azione collettiva per ridurre il rischio di estinzione umana dall'IA, insieme ad altre minacce su larga scala come pandemie e guerra nucleare.
Published At
10/27/2023 10:03:00 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.