Woodpecker: новый инструмент для борьбы с «галлюцинациями» ИИ, разработанный учеными Tencent и USTC
Summary:
Ученые из YouTu Lab компании Tencent и Университета науки и технологий Китая разработали инструмент под названием «Woodpecker» для борьбы с «галлюцинациями» искусственного интеллекта (ИИ), которые относятся к ситуациям, когда модели ИИ выдают высокодостоверные результаты, не основанные на обучающих данных. Специально разработанный для мультимодальных больших языковых моделей (MLLM), Woodpecker использует метод, повышающий прозрачность и точность. Он может быть легко интегрирован в другие MLLM, предлагая решение, которое может адаптироваться к различным архитектурам систем ИИ.
Ученые из YouTu Lab компании Tencent и Университета науки и технологий Китая создали инновационный инструмент, предназначенный для решения проблемы «галлюцинаций» в моделях искусственного интеллекта (ИИ). Галлюцинации в данном контексте относятся к моделям ИИ, генерирующим уверенные результаты, которые, похоже, не основаны на данных, на которых они были обучены. Эта проблема в основном наблюдается в исследованиях больших языковых моделей (LLM) и проявляется в таких моделях, как ChatGPT от OpenAI и Claude от Anthropic.
Группа из Tencent и USTC запустила инструмент под названием «Woodpecker», который, как они утверждают, может исправлять галлюцинации в мультимодальных больших языковых моделях (MLLM). MLLM — это подмножество ИИ, включающее в себя такие модели, как GPT-4 и особенно его визуальный эквивалент GPT-4V, а также другие системы, которые включают в себя визуализацию и другую обработку с текстовым языковым моделированием.
Предварительное исследование команды показывает, что Woodpecker использует три отдельные модели искусственного интеллекта для коррекции галлюцинаций, наряду с MLLM, находящейся на стадии пересмотра. Эти модели, а именно GPT-3.5 turbo, Grounding DINO и BLIP-2-FlanT5, служат в качестве оценщиков для обнаружения галлюцинаций и направляют корректируемую модель, чтобы переформулировать ее выходные данные в соответствии с данными.
Чтобы исправить галлюцинации, модели искусственного интеллекта, лежащие в основе Woodpecker, используют пятиступенчатый метод, который включает в себя ключевые понятия, формирование вопросов, проверку визуальных знаний, создание визуальных утверждений и, наконец, коррекцию галлюцинаций. Команда утверждает, что эти подходы повышают прозрачность и точность по сравнению с базовым уровнем MiniGPT-4/mPLUG-Owl на 30,66%/24,33%.
Оценив множество стандартных MLLM с использованием их формулы, команда пришла к выводу, что Woodpecker может быть легко включен в другие MLLM. С этой проблемой связана любопытная тенденция к тому, что люди и ИИ предпочитают лестные ответы чат-ботов правде, как подчеркивается в отдельном исследовании.
Для тех, кто заинтересован в том, чтобы испытать Woodpecker из первых рук, ознакомительная версия доступна на Gradio Live.
Published At
10/25/2023 5:42:46 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.