OpenAI estrae lezioni chiave da un progetto di sovvenzione da 1 milione di dollari che promuove il comportamento democratico dell'IA
Summary:
OpenAI ha raccolto cinque informazioni chiave dal suo programma di sovvenzioni da 1 milione di dollari volto a stabilire un processo democratico per il comportamento dell'IA, basato sull'input pubblico. Le lezioni includono la necessità di frequenti processi di input per accogliere i cambiamenti di opinione, garantire che un processo collettivo catturi i valori fondamentali, affrontare il divario digitale, gestire forti opinioni divergenti all'interno dei gruppi e bilanciare il consenso rappresentando opinioni diverse. Notando le apprensioni del pubblico e la speranza per l'uso futuro dell'IA nella politica, OpenAI cerca di implementare il feedback raccolto e sta istituendo un nuovo team, dedicato a incorporare l'opinione pubblica nel comportamento dei loro modelli di IA.
OpenAI ha identificato cinque punti chiave della sua iniziativa di sovvenzione da 1 milione di dollari che ha cercato un contributo pubblico per modellare il comportamento dell'IA in linea con i valori umani. L'azienda ha annunciato nel maggio 2023 il suo piano di distribuire un totale di 1 milione di dollari, suddiviso in dieci sovvenzioni da 100.000 dollari ciascuna, per progetti che mirano a sviluppare un metodo democratico e preliminare per decidere le linee guida dei sistemi di intelligenza artificiale.
In un post sul blog datato 16 gennaio, l'azienda di intelligenza artificiale ha descritto in dettaglio come l'innovazione nella tecnologia democratica sia stata facilitata dai beneficiari delle sovvenzioni, cosa il programma abbia insegnato loro e come intendono incorporare la tecnologia democratica di nuova concezione.
Il post ha osservato che i vari team hanno raccolto i sentimenti degli utenti in modi diversi, affermando che l'opinione pubblica è incline a frequenti cambiamenti, che possono dettare la frequenza con cui questi processi di raccolta devono avvenire. Una comprensione cruciale è stata che il processo collettivo deve catturare i valori fondamentali ed essere sensibile a qualsiasi cambiamento significativo di prospettiva nel tempo.
I team hanno scoperto che il superamento del divario digitale rimane un ostacolo significativo, che può causare risultati distorti. L'acquisizione di partecipanti che attraversano il divario digitale è stata un'impresa a causa dei vincoli della piattaforma e delle complicazioni legate alla comprensione delle lingue o dei contesti locali.
È interessante notare che il consenso all'interno di gruppi con forti divergenze era difficile da raggiungere, in particolare quando una piccola minoranza aveva opinioni radicate su un argomento specifico. Una rivelazione del team di Collective Dialogues è stata quella di una minoranza irremovibile nel non limitare gli assistenti AI nel rispondere a determinate domande per sessione, causando attriti con i risultati del voto di maggioranza.
Secondo OpenAI, bilanciare un accordo uniforme includendo diversi punti di vista è un compito arduo quando il risultato previsto è singolare. Uno dei team, Inclusive.AI, ha esaminato i meccanismi di voto e ha scoperto che i metodi che trasmettono una forte forza emotiva e consentono una partecipazione paritaria sono percepiti come più democratici ed equi.
Per quanto riguarda le preoccupazioni sul ruolo dell'IA nella governance futura, il post sul blog ha affermato che alcuni partecipanti hanno espresso apprensione per l'uso dell'IA nella stesura delle politiche, chiedendo trasparenza. Nonostante ciò, dopo le discussioni, è stato osservato un maggiore ottimismo tra il pubblico sulla loro capacità di guidare l'IA.
OpenAI prevede di utilizzare i suggerimenti del pubblico e sta istituendo un nuovo team di allineamento collettivo composto da personale di ricerca e ingegneria. A loro viene assegnato il compito di costruire un sistema per la raccolta e l'integrazione delle opinioni pubbliche sul comportamento dei loro modelli nelle offerte di OpenAI.
In altre notizie, la pubblicazione riporta di "rapimenti" fraudolenti dell'IA, di uno chef robot da 20.000 dollari e delle controversie sul plagio dell'IA di Ackman in AI Eye.
Published At
1/17/2024 3:17:40 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.