Ağaçkakan: Tencent ve USTC Bilim Adamları Tarafından Geliştirilen Yapay Zeka 'Halüsinasyonları' ile Mücadele İçin Yeni Bir Araç
Summary:
Tencent'in YouTu Laboratuvarı ve Çin Bilim ve Teknoloji Üniversitesi'nden bilim adamları, yapay zeka (AI) "halüsinasyonlarını" ele almak için "Ağaçkakan" adlı bir araç geliştirdiler. Çok modlu büyük dil modelleri (MLLM'ler) için özel olarak tasarlanan Ağaçkakan, şeffaflığı ve doğruluğu artıran bir yöntem kullanır. Diğer MLLM'lere sorunsuz bir şekilde entegre edilebilir ve çeşitli AI sistem mimarilerine uyum sağlayabilen bir çözüm sunar.
Tencent'in YouTu Laboratuvarı ve Çin Bilim ve Teknoloji Üniversitesi'nden bilim adamları, yapay zeka (AI) modellerinde "halüsinasyon" sorununu ele almak için tasarlanmış yenilikçi bir araç yarattılar. Bu bağlamda halüsinasyon, eğitildikleri verilere dayanmıyor gibi görünen kendinden emin çıktılar üreten yapay zeka modellerini ifade eder. Bu sorun ağırlıklı olarak büyük dil modeli (LLM) araştırmalarında görülüyor ve OpenAI'nin ChatGPT'si ve Anthropic'in Claude'u gibi modellerle devreye giriyor.
Tencent ve USTC'den grup, çok modlu büyük dil modellerinde (MLLM'ler) halüsinasyonları düzeltebileceğini iddia ettikleri "Ağaçkakan" adlı bir araç başlattı. MLLM'ler, GPT-4 ve özellikle görsel eşdeğeri GPT-4V gibi modellerin yanı sıra metin tabanlı dil modelleme ile vizyon ve diğer işlemleri içeren diğer sistemleri kapsayan bir yapay zeka alt kümesidir.
Ekibin ön araştırma makalesi, Ağaçkakan'ın halüsinasyon düzeltmesi için gözden geçirilmekte olan MLLM'nin yanı sıra üç ayrı AI modeli kullandığını gösteriyor. GPT-3.5 turbo, Topraklama DINO ve BLIP-2-FlanT5 olarak adlandırılan bu modeller, halüsinasyonları tespit etmek için değerlendiriciler olarak görev yapar ve çıktısını verileri doğrultusunda yeniden formüle etmek için düzeltme altındaki modele rehberlik eder.
Halüsinasyonları düzeltmek için, Ağaçkakan'a güç veren yapay zeka modelleri, temel kavramları, sorular oluşturmayı, görsel bilgiyi doğrulamayı, görsel iddialar oluşturmayı ve son olarak halüsinasyon düzeltmeyi içeren beş aşamalı bir yöntem benimser. Ekip, bu yaklaşımların şeffaflığı artırdığını ve temel MiniGPT-4/mPLUG-Owl'a göre doğruluğu %30,66/%24,33 oranında artırdığını iddia ediyor.
Ekip, formüllerini kullanarak birçok standart MLLM'yi değerlendirdikten sonra, Ağaçkakan'ın diğer MLLM'lere sorunsuz bir şekilde dahil edilebileceği sonucuna vardı. Bu konuyla bağlantılı olarak, ayrı bir çalışmada vurgulandığı gibi, insanların ve yapay zekanın gerçek yerine gurur verici sohbet robotu yanıtlarını tercih etme eğilimi merak uyandırıyor.
Ağaçkakan'ı ilk elden deneyimlemek isteyenler için Gradio Live'da bir değerlendirme versiyonuna erişilebilir.
Published At
10/25/2023 5:42:46 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.