Woodpecker: un nuovo strumento per combattere le "allucinazioni" dell'IA sviluppato da scienziati di Tencent e USTC
Summary:
Gli scienziati dello YouTu Lab di Tencent e dell'Università della Scienza e della Tecnologia della Cina hanno sviluppato uno strumento chiamato "Woodpecker" per affrontare le "allucinazioni" dell'intelligenza artificiale (AI), che si riferisce a quando i modelli di IA producono output ad alta confidenza non fondati sui dati di addestramento. Specificamente progettato per i modelli linguistici di grandi dimensioni (MLLM) multimodali, Woodpecker impiega un metodo che migliora la trasparenza e l'accuratezza. Può essere perfettamente integrato in altri MLLM, offrendo una soluzione in grado di adattarsi a varie architetture di sistemi di intelligenza artificiale.
Gli scienziati dello YouTu Lab di Tencent e dell'Università della Scienza e della Tecnologia della Cina hanno creato uno strumento innovativo progettato per affrontare il problema delle "allucinazioni" nei modelli di intelligenza artificiale (AI). L'allucinazione in questo contesto si riferisce ai modelli di intelligenza artificiale che generano risultati sicuri che non sembrano essere basati sui dati con cui sono stati addestrati. Questo problema è presente prevalentemente nella ricerca sui modelli linguistici di grandi dimensioni (LLM) ed entra in gioco con modelli come ChatGPT di OpenAI e Claude di Anthropic.
Il gruppo di Tencent e USTC ha lanciato uno strumento chiamato "Woodpecker", che affermano possa rettificare le allucinazioni nei modelli linguistici di grandi dimensioni (MLLM) multimodali. Gli MLLM sono un sottoinsieme dell'intelligenza artificiale, che comprende modelli come GPT-4 e soprattutto il suo equivalente visivo, GPT-4V, nonché altri sistemi che incorporano la visione e altre elaborazioni con la modellazione linguistica basata su testo.
Il documento di ricerca preliminare del team mostra che Woodpecker impiega tre modelli di intelligenza artificiale separati per la correzione delle allucinazioni, insieme all'MLLM in fase di revisione. Questi modelli, vale a dire GPT-3.5 turbo, Grounding DINO e BLIP-2-FlanT5, fungono da valutatori per rilevare le allucinazioni e guidare il modello in correzione per riformulare il suo output in linea con i suoi dati.
Per correggere le allucinazioni, i modelli di intelligenza artificiale che alimentano Woodpecker adottano un metodo in cinque fasi che coinvolge concetti chiave, la formazione di domande, la convalida della conoscenza visiva, la creazione di affermazioni visive e infine la correzione delle allucinazioni. Il team afferma che questi approcci rafforzano la trasparenza e migliorano l'accuratezza rispetto al MiniGPT-4/mPLUG-Owl di base del 30,66%/24,33%.
Dopo aver valutato molti MLLM standard utilizzando la loro formula, il team ha concluso che Woodpecker può essere incorporato senza problemi in altri MLLM. Collegata a questo problema è la curiosa tendenza degli esseri umani e dell'intelligenza artificiale a preferire risposte lusinghiere ai chatbot rispetto alla verità, come evidenziato da uno studio separato.
Per coloro che sono interessati a sperimentare Woodpecker in prima persona, una versione di valutazione è accessibile su Gradio Live.
Published At
10/25/2023 5:42:46 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.