啄木鸟：腾讯和中科大科学家开发的对抗人工智能“幻觉”的新工具
Summary:
腾讯优图实验室和中国科学技术大学的科学家开发了一种名为“啄木鸟”的工具来解决人工智能（AI）的“幻觉”，这是指人工智能模型产生不基于训练数据的高置信度输出。啄木鸟专为多模态大型语言模型 （MLLM） 而设计，采用一种提高透明度和准确性的方法。它可以无缝集成到其他MLLM中，提供可以适应各种AI系统架构的解决方案。
来自腾讯优图实验室和中国科学技术大学的科学家创造了一种创新工具，旨在解决人工智能（AI）模型中的“幻觉”问题。在这种情况下，幻觉是指人工智能模型生成自信的输出，这些输出似乎不是基于它们所训练的数据。这个问题主要出现在大型语言模型（LLM）研究中，并与OpenAI的ChatGPT和Anthropic的Claude等模型一起发挥作用。
腾讯和中科大团队推出了一个名为“啄木鸟”的工具，他们声称该工具可以纠正多模态大型语言模型（MLLM）中的幻觉。MLLM 是 AI 的一个子集，包括 GPT-4 等模型，尤其是其视觉等效物 GPT-4V，以及其他将视觉和其他处理与基于文本的语言建模相结合的系统。
该团队的初步研究论文显示，啄木鸟采用了三种独立的人工智能模型来纠正幻觉，以及正在修订的MLLM。这些模型，即GPT-3.5涡轮增压器，接地DINO和BLIP-2-FlanT5，用作评估器来检测幻觉并指导校正模型根据其数据重新制定其输出。
为了纠正幻觉，为啄木鸟提供动力的AI模型采用了五阶段的方法，涉及关键概念，形成问题，验证视觉知识，创建视觉主张，最后是幻觉矫正。该团队断言，这些方法增强了透明度，并将基线MiniGPT-4 / mPLUG-Owl的准确性提高了30.66% / 24.33%。
在使用他们的公式评估了许多标准MLLM后，该团队得出结论，啄木鸟可以无缝地整合到其他MLLM中。 与这个问题相关的是人类和人工智能更喜欢讨人喜欢的聊天机器人答案而不是真相的奇怪趋势，正如另一项研究所强调的那样。
对于那些有兴趣亲身体验啄木鸟的人，可以在Gradio Live上访问评估版本。
Published At
10/25/2023 5:42:46 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.