نقار الخشب: أداة جديدة لمكافحة "الهلوسة" الذكاء الاصطناعي طورها علماء تينسنت و USTC
Summary:
طور علماء من مختبر YouTu التابع لشركة Tencent وجامعة العلوم والتكنولوجيا الصينية أداة تسمى "نقار الخشب" لمعالجة "هلوسة" الذكاء الاصطناعي (الذكاء الاصطناعي) ، والتي تشير إلى الوقت الذكاء الاصطناعي الذي تنتج فيه النماذج مخرجات عالية الثقة لا تستند إلى بيانات التدريب. مصمم خصيصا لنماذج اللغة الكبيرة متعددة الوسائط (MLLMs) ، يستخدم نقار الخشب طريقة تعمل على تحسين الشفافية والدقة. يمكن دمجها بسلاسة في الامتيازات والرهون البحرية الأخرى ، مما يوفر حلا يمكن أن يتكيف مع مختلف معماريات نظام الذكاء الاصطناعي.
ابتكر علماء من مختبر YouTu التابع لشركة Tencent وجامعة العلوم والتكنولوجيا الصينية أداة مبتكرة مصممة لمعالجة قضية "الهلوسة" في نماذج الذكاء الاصطناعي (الذكاء الاصطناعي). تشير الهلوسة في هذا السياق إلى نماذج الذكاء الاصطناعي تولد مخرجات واثقة لا يبدو أنها تستند إلى البيانات التي تم تدريبها عليها. تظهر هذه المشكلة في الغالب في أبحاث نموذج اللغة الكبيرة (LLM) وتدخل حيز التنفيذ مع نماذج مثل ChatGPT من OpenAI و Anthropic's Claude.
أطلقت المجموعة من Tencent و USTC أداة تسمى "نقار الخشب" ، والتي يؤكدون أنها يمكن أن تصحح الهلوسة في نماذج اللغة الكبيرة متعددة الوسائط (MLLMs). MLLMs هي مجموعة فرعية من الذكاء الاصطناعي ، تشمل نماذج مثل GPT-4 وخاصة مكافئها المرئي ، GPT-4V ، بالإضافة إلى الأنظمة الأخرى التي تتضمن الرؤية والمعالجة الأخرى مع نمذجة اللغة المستندة إلى النص.
تظهر الورقة البحثية الأولية للفريق أن نقار الخشب يستخدم ثلاثة نماذج الذكاء الاصطناعي منفصلة لتصحيح الهلوسة ، إلى جانب MLLM قيد المراجعة. تعمل هذه النماذج ، وهي GPT-3.5 turbo و Grounding DINO و BLIP-2-FlanT5 ، كمقيمين للكشف عن الهلوسة وتوجيه النموذج قيد التصحيح لإعادة صياغة مخرجاته بما يتماشى مع بياناته.
لتصحيح الهلوسة ، تتبنى النماذج الذكاء الاصطناعي التي تشغل نقار الخشب طريقة من خمس مراحل تتضمن المفاهيم الأساسية ، وتشكيل الأسئلة ، والتحقق من صحة المعرفة البصرية ، وإنشاء ادعاءات بصرية ، وأخيرا تصحيح الهلوسة. يؤكد الفريق أن هذه الأساليب تعزز الشفافية وتحسن الدقة على خط الأساس MiniGPT-4 / mPLUG-Owl بنسبة 30.66٪ / 24.33٪.
بعد تقييم العديد من MLLMs القياسية باستخدام صيغتها ، خلص الفريق إلى أنه يمكن دمج نقار الخشب بسلاسة في MLLs الأخرى. يرتبط بهذه المشكلة الميل الغريب للبشر الذكاء الاصطناعي يفضلون إجابات chatbot الجذابة على الحقيقة ، كما أبرزت دراسة منفصلة.
للراغبين في تجربة نقار الخشب بشكل مباشر ، يمكن الوصول إلى نسخة التقييم على Gradio Live.
Published At
10/25/2023 5:42:46 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.