Nuove funzionalità neurali nei sistemi di intelligenza artificiale potrebbero risolvere il problema delle allucinazioni dell'IA
Summary:
Le allucinazioni dell'intelligenza artificiale (AI), uno dei principali problemi del settore, possono essere risolte attraverso funzionalità neurali appena scoperte. Queste allucinazioni sono dati errati prodotti durante l'addestramento di modelli linguistici di intelligenza artificiale di grandi dimensioni. Il CEO di Anthropic, Dario Amodei, sottolinea che queste caratteristiche neurali consentono l'intervento e l'alterazione dei sistemi di IA. L'azienda sta studiando l'impatto della regolazione di queste funzionalità per modificare il comportamento dell'IA. Inoltre, il progresso nello sviluppo dell'IA non dipende più principalmente dai dati ma dal talento a causa dell'avvento dei set di dati sintetici, secondo Amodei.
Gli aspetti appena scoperti del funzionamento neurale dei sistemi di intelligenza artificiale (IA) potrebbero potenzialmente porre rimedio a un problema in corso noto come allucinazioni dell'IA. Tali allucinazioni sono risultati inaspettati prodotti quando i modelli linguistici più grandi vengono addestrati a funzionare come sistemi di intelligenza artificiale generativa. Questi modelli a volte generano dati nuovi, anche se errati, che in precedenza non facevano parte del loro set di dati. Tuttavia, queste nuove funzionalità neurali potrebbero essere la soluzione a questo problema, afferma il co-fondatore e CEO di Anthropic, Dario Amodei.
In un discorso alla funzione Viva Tech di Parigi nel 2024, Amodei ha affermato che i sistemi di intelligenza artificiale contemporanei comprendono centinaia di milioni di neuroni. Ha evidenziato la scoperta di 30 milioni di funzionalità all'interno del loro modello, comprese quelle legate a vulnerabilità di sicurezza o pregiudizi contro gruppi particolari. La capacità di intervenire e modificare queste caratteristiche è stata ora acquisita.
Il problema con le allucinazioni è che i processi di intelligenza artificiale non sono consapevoli del fatto che il loro output non è corretto. Ma Amodei rassicura che queste nuove funzionalità potrebbero potenzialmente porre fine alle allucinazioni dell'IA. Afferma: "I vantaggi principali di questa nuova scoperta includono la riduzione dei casi di allucinazioni dell'intelligenza artificiale".
La ricerca è attualmente in corso presso Anthropic per esplorare come la modifica delle caratteristiche interne possa cambiare il comportamento dell'IA. Sono riusciti a creare un modello dimostrativo in cui una caratteristica unica ha fatto sì che l'IA si concentrasse molto sul Golden Gate Bridge. Il 23 maggio, Anthropic ha espresso fiducia in un post di X: "La capacità di identificare e modificare queste caratteristiche all'interno di Claude rafforza la nostra fiducia nell'iniziare a comprendere come funzionano veramente i modelli linguistici estesi".
Anthropic, una stimata società di sviluppo di intelligenza artificiale, ha introdotto il suo chatbot AI, Claude, sul mercato europeo all'inizio di maggio. Disponibile tramite la sua applicazione web e l'app iOS, Claude supporta diverse lingue europee come francese, tedesco, spagnolo e italiano dal 14 maggio.
La crescita dell'intelligenza artificiale si basa sui talenti e non più sui dati, secondo Amodei. La scarsità di dati in precedenza ostacolava lo sviluppo dell'IA, ma l'inizio dei set di dati sintetici ha spostato l'ostacolo principale verso una carenza di competenze degli sviluppatori. I dati sintetici sono promettenti per la scalabilità dell'intelligenza artificiale, ma Amodei ha avvertito di un rapporto equilibrato tra dati sintetici e del mondo reale, poiché l'eccesso di dati sintetici può portare a set di dati più deboli e irrealistici.
Gli investimenti nell'IA hanno visto un'ascesa significativa dall'inizio del 2024, con l'azienda di Elon Musk che ha ottenuto ben 6 miliardi di dollari di finanziamenti di serie B il 27 maggio. Questo finanziamento ha lo scopo di posizionare il suo chatbot Grok come rivale di ChatGPT entro la fine dell'anno.
Published At
5/29/2024 12:49:21 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.