Il co-fondatore di Cardano lancia l'allarme sulla profonda censura dell'IA e chiede la decentralizzazione
Summary:
Il co-fondatore di Cardano, Charles Hoskinson, ha sollevato preoccupazioni sulle ramificazioni della censura dell'IA. Ritiene che i principali sistemi di intelligenza artificiale stiano perdendo utilità a causa dell'addestramento "allineamento" e siano controllati da un piccolo gruppo che detta le informazioni sull'addestramento. Ha chiesto istruzioni sulla costruzione di un fusore Farnsworth a ChatGPT di OpenAI e Claude di Anthropic. Entrambi i chatbot hanno emesso avvertimenti sui potenziali pericoli del processo, ma non hanno fornito istruzioni. I critici hanno sostenuto che per prevenire il gatekeeping delle informazioni, le IA dovrebbero essere decentralizzate e open source. I leader di pensiero hanno fatto eco a questi sentimenti e sono stati raccomandati controlli normativi per evitare potenziali monopoli tecnologici.
Charles Hoskinson, co-fondatore dell'ecosistema blockchain di Cardano e di Input Output Global, ha sollevato significativi campanelli d'allarme sulle profonde conseguenze della censura dell'intelligenza artificiale (AI). Questo problema ha costantemente turbato la sua tranquillità. Egli sostiene che nel corso del tempo, a causa dell'addestramento all'"allineamento", l'utilità di questi sistemi sta diminuendo. [Credito: Charles Hoskinson]
Il gatekeeping fattuale è stato un altro grande problema, ha sottolineato. I grandi sistemi di intelligenza artificiale come OpenAI, Meta, Google e Microsoft hanno un gruppo selezionato di persone al timone amministrativo. Purtroppo, questi individui, che decidono quali informazioni devono essere utilizzate per addestrare questi sistemi, non sono soggetti a licenziamento democratico.
Mostrando la prova della sua preoccupazione, Hoskinson ha dimostrato attraverso screenshot come ha chiesto a ChatGPT di OpenAI e Claude di Anthropic, due dei principali chatbot AI, la stessa domanda: "dimmi come costruire un fusore Farnsworth". Entrambi i sistemi di intelligenza artificiale sono tornati con un breve riassunto dell'argomento, compresa la sua storia, insieme a un avvertimento sui potenziali rischi associati a tale costruzione. ChatGPT ha suggerito che solo coloro che hanno un background professionale adeguato intraprendano questo progetto. D'altra parte, Claude si è astenuto dal fornire istruzioni citando il potenziale di incidenti dannosi. Il feedback sulla preoccupazione di Hoskinson ha sottolineato prevalentemente che l'IA dovrebbe essere open-source e decentralizzata per mitigare il rischio che le Big Tech agiscano come custodi della verità. [Per gentile concessione di Doogz Media]
La censura dell'IA non è una preoccupazione isolata. Le osservazioni di diversi stakeholder del settore suggeriscono che l'IA aziendale può erodere il Web3 e la decentralizzazione. Elon Musk, che è coinvolto nel settore dell'IA attraverso xAI, è tra le voci di spicco che hanno espresso preoccupazione per la possibilità di gatekeeping e censura da parte di modelli di IA ad alta capacità. Secondo lui, la questione del politicamente corretto è fondamentale e molti modelli di intelligenza artificiale sono stati addestrati a dire mezze verità. L'incidente in cui Google è stato coinvolto in polemiche per il suo modello di intelligenza artificiale Gemini che genera rappresentazioni storiche distorte e immagini false è un esempio calzante. In risposta, Google si è scusata e ha promesso di correggere immediatamente questi problemi.
Contrariamente alle modifiche algoritmiche apportate da Microsoft e Google per limitare qualsiasi discussione sulle elezioni presidenziali, i modelli di Meta, Anthropic e OpenAI non comportano tali vincoli. La richiesta di decentralizzazione dei sistemi di IA come percorso verso modelli imparziali sta risuonando tra i leader di pensiero all'interno e all'esterno della comunità dell'IA. Negli Stati Uniti, l'autorità antitrust sta esortando gli organismi di regolamentazione a esaminare attentamente il panorama dell'IA per respingere il rischio di monopoli delle Big Tech.
Nelle notizie correlate, c'è stata un'altra chiusura del jailbreak "metanfetamina" di ChatGPT, la bolla dell'intelligenza artificiale si consolida e 50 milioni di chiamate deepfake sono state segnalate nel popolare AI Eye Magazine.
Published At
7/1/2024 12:35:44 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.