OpenAI lancia un'iniziativa di "preparazione" per affrontare i rischi legati all'IA e mitigare le potenziali minacce
Summary:
OpenAI sta lanciando un'iniziativa denominata "Preparedness" per valutare e mitigare i rischi ad ampio raggio associati all'IA. L'iniziativa si concentrerà sulle potenziali minacce dell'IA, comprese le minacce chimiche, biologiche, radiologiche e nucleari, la persuasione individuale, la sicurezza informatica e la replica autonoma. Guidato da Aleksander Madry, il team indagherà sui pericoli dell'uso improprio dei sistemi di IA di frontiera. OpenAI ha anche lanciato una AI Preparedness Challenge per la prevenzione degli abusi catastrofici, con 25.000 dollari in crediti API da assegnare per le migliori candidature.
OpenAI, l'azienda responsabile dello sviluppo della tecnologia AI come ChatGPT, sta lanciando un progetto mirato a valutare vari potenziali pericoli associati all'AI. Rivelato il 25 ottobre, OpenAI sta ora strutturando un team unico il cui obiettivo principale sarà quello di studiare, prevedere e mitigare i potenziali rischi schiaccianti che potrebbero derivare dall'uso della tecnologia AI. Questo team, chiamato "Preparedness", presterà molta attenzione ai potenziali rischi dell'IA, comprese le minacce chimiche, biologiche, radiologiche e nucleari, la persuasione individuale, la sicurezza informatica e la replica e gli adattamenti spontanei.
Il team, guidato da Aleksander Madry, ha il compito di comprendere questioni critiche come il livello di pericolo che un sistema di intelligenza artificiale avanzato può rappresentare se utilizzato in modo improprio o se, in caso di furto, potrebbe essere utilizzato da elementi dannosi. "I modelli di intelligenza artificiale di frontiera", ha condiviso OpenAI, "hanno il potenziale per essere vantaggiosi per l'umanità globale". Allo stesso modo, hanno sostenuto che questi modelli di intelligenza artificiale potrebbero anche comportare "rischi sempre più gravi".
Esponendo le opinioni dell'azienda, OpenAI ha dichiarato: "Riconosciamo e prendiamo in seria considerazione tutte le forme di rischi per la sicurezza associati all'IA, dai sistemi odierni agli estremi della superintelligenza... Per garantire la sicurezza dei sistemi di intelligenza artificiale ad alta capacità, stiamo perfezionando il nostro approccio alla preparazione ai rischi catastrofici".
Oltre a creare la nuova divisione, OpenAI sta lanciando una sfida mirata a prevenire l'uso improprio catastrofico dell'IA, promettendo $ 25.000 in crediti API ai primi 10 migliori contributi. L'azienda ha anche annunciato di essere alla ricerca di talenti provenienti da diversi background tecnici per entrare a far parte del team di preparazione.
OpenAI aveva precedentemente accennato alla creazione di un team incentrato sull'affrontare i potenziali rischi dell'IA nel luglio 2023. Tradizionalmente, i potenziali pericoli associati all'intelligenza artificiale vengono spesso sottolineati, suscitando preoccupazioni sul fatto che questi sistemi di intelligenza artificiale potrebbero un giorno superare l'intelligenza umana. Nonostante questi timori, aziende come OpenAI hanno perseguito attivamente lo sviluppo di nuove tecnologie di intelligenza artificiale, sollevando inavvertitamente ulteriori sospetti e ansia.
In uno sviluppo simile, il Center for AI Safety, un'organizzazione senza scopo di lucro, nel maggio 2023, ha pubblicato una lettera aperta che enfatizza il rischio dell'IA. Il centro ritiene che i rischi posti dall'IA dovrebbero essere affrontati seriamente su scala globale, insieme ad altri rischi su scala sociale, come le pandemie e la guerra nucleare.
Published At
10/27/2023 10:03:56 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.