Woodpecker : un nouvel outil pour lutter contre les « hallucinations » de l’IA développé par des scientifiques de Tencent et de l’USTC
Summary:
Des scientifiques du laboratoire YouTu de Tencent et de l’Université des sciences et technologies de Chine ont mis au point un outil appelé « Woodpecker » pour traiter les « hallucinations » de l’intelligence artificielle (IA), qui font référence au moment où les modèles d’IA produisent des résultats à haute confiance qui ne sont pas fondés sur les données d’apprentissage. Spécialement conçu pour les grands modèles de langage multimodaux (MLLM), Woodpecker utilise une méthode qui améliore la transparence et la précision. Il peut être intégré de manière transparente dans d’autres MLLM, offrant une solution qui peut s’adapter à diverses architectures de systèmes d’IA.
Des scientifiques du laboratoire YouTu de Tencent et de l’Université des sciences et technologies de Chine ont créé un outil innovant conçu pour résoudre le problème de l’hallucination dans les modèles d’intelligence artificielle (IA). Dans ce contexte, l’hallucination fait référence aux modèles d’IA générant des résultats confiants qui ne semblent pas être basés sur les données avec lesquelles ils ont été formés. Ce problème est principalement observé dans la recherche sur les grands modèles de langage (LLM) et entre en jeu avec des modèles tels que ChatGPT d’OpenAI et Claude d’Anthropic.
Le groupe de Tencent et de l’USTC a lancé un outil appelé « Woodpecker », qui, selon eux, peut rectifier les hallucinations dans les grands modèles de langage multimodaux (MLLM). Les MLLM sont un sous-ensemble de l’IA, englobant des modèles comme GPT-4 et surtout son équivalent visuel, GPT-4V, ainsi que d’autres systèmes qui intègrent la vision et d’autres traitements avec la modélisation du langage textuel.
Le document de recherche préliminaire de l’équipe montre que Woodpecker utilise trois modèles d’IA distincts pour la correction des hallucinations, en plus du MLLM en cours de révision. Ces modèles, à savoir GPT-3.5 turbo, Grounding DINO et BLIP-2-FlanT5, servent d’évaluateurs pour détecter les hallucinations et guider le modèle sous correction pour reformuler sa sortie en fonction de ses données.
Pour rectifier les hallucinations, les modèles d’IA qui alimentent Woodpecker adoptent une méthode en cinq étapes qui implique des concepts clés, la formulation de questions, la validation des connaissances visuelles, la création d’affirmations visuelles et enfin la correction des hallucinations. L’équipe affirme que ces approches renforcent la transparence et améliorent la précision par rapport à la ligne de base MiniGPT-4/mPLUG-Owl de 30,66 %/24,33 %.
Après avoir évalué de nombreux MLLM standard à l’aide de leur formule, l’équipe a conclu que Woodpecker peut être intégré de manière transparente dans d’autres MLLM. Lié à ce problème, il y a la curieuse tendance des humains et de l’IA à préférer les réponses flatteuses des chatbots à la vérité, comme le souligne une étude distincte.
Pour ceux qui souhaitent faire l’expérience de Woodpecker, une version d’évaluation est accessible sur Gradio Live.
Published At
10/25/2023 5:42:46 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.