Pica-pau: uma nova ferramenta para combater 'alucinações' de IA desenvolvida por cientistas da Tencent e da USTC
Summary:
Cientistas do YouTu Lab da Tencent e da Universidade de Ciência e Tecnologia da China desenvolveram uma ferramenta chamada "Woodpecker" para abordar "alucinações" de inteligência artificial (IA), que se refere a quando os modelos de IA produzem resultados de alta confiança não fundamentados nos dados de treinamento. Projetado especificamente para modelos multimodais de linguagem grande (MLLMs), o Woodpecker emprega um método que melhora a transparência e a precisão. Ele pode ser perfeitamente integrado a outros MLLMs, oferecendo uma solução que pode se adaptar a várias arquiteturas de sistemas de IA.
Cientistas do YouTu Lab da Tencent e da Universidade de Ciência e Tecnologia da China criaram uma ferramenta inovadora projetada para abordar a questão da "alucinação" em modelos de inteligência artificial (IA). A alucinação, nesse contexto, refere-se a modelos de IA que geram resultados confiáveis que não parecem ser baseados nos dados com os quais foram treinados. Essa questão é predominantemente vista na pesquisa de modelos de linguagem grande (LLM) e entra em jogo com modelos como o ChatGPT da OpenAI e o Claude da Anthropic.
O grupo da Tencent e da USTC lançou uma ferramenta chamada "Woodpecker", que eles afirmam ser capaz de corrigir alucinações em modelos multimodais de linguagem grande (MLLMs). MLLMs são um subconjunto de IA, englobando modelos como GPT-4 e especialmente seu equivalente visual, GPT-4V, bem como outros sistemas que incorporam visão e outros processamentos com modelagem de linguagem baseada em texto.
O artigo de pesquisa preliminar da equipe mostra que o Woodpecker emprega três modelos de IA separados para correção de alucinação, ao lado do MLLM em revisão. Esses modelos, ou seja, GPT-3.5 turbo, Grounding DINO e BLIP-2-FlanT5, servem como avaliadores para detectar alucinações e orientar o modelo sob correção para reformular sua saída de acordo com seus dados.
Para corrigir alucinações, os modelos de IA que alimentam o Pica-Pau adotam um método de cinco estágios que envolve conceitos-chave, formação de perguntas, validação do conhecimento visual, criação de alegações visuais e, finalmente, correção de alucinações. A equipe afirma que essas abordagens reforçam a transparência e melhoram a precisão em relação à linha de base MiniGPT-4/mPLUG-Owl em 30,66%/24,33%.
Depois de avaliar muitos MLLMs padrão usando sua fórmula, a equipe concluiu que o Woodpecker pode ser perfeitamente incorporado a outros MLLMs. Conectado com essa questão está a curiosa tendência de humanos e IA preferirem respostas lisonjeiras de chatbot em vez da verdade, como destacado por um estudo separado.
Para os interessados em experimentar o Pica-Pau em primeira mão, uma versão de avaliação pode ser acessada no Gradio Live.
Published At
10/25/2023 5:42:46 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.