Araştırmacılar, OpinionGPT'yi Geliştirdi: Önyargılı çıktılar üretmek için bilerek programlanmış bir yapay zeka modeli.
Summary:
Humboldt-Universitat zu Berlin'deki araştırmacılar, OpinionGPT adında, kasıtlı olarak önyargılı çıktılar üretmek için programlanmış bir yapay zeka modeli geliştirdi. Bu model, Meta'nın Llama 2'nin modifiye edilmiş bir versiyonu olup, 11 önyargı grubunu temsil edecek şekilde eğitilmiştir. Ancak eğitim verilerinin sınırlı doğası ve gerçek dünya önyargısıyla sorgulanabilir ilişkisi nedeniyle, model daha çok verilerinin önyargısını yansıtan metinler üretmektedir. OpinionGPT, gerçek insan önyargısını incelemek için uygun olmayabilir, ancak büyük belge veritabanlarındaki sterotipleri keşfetmek için kullanılabilir. Araştırmacılar, OpinionGPT'yi herkese açık test için kullanıma sunmuş olsa da, oluşturulan içeriğin güvenilir olmayabileceği konusunda uyarıyor.
Humboldt-Universitat zu Berlin'deki bir araştırma ekibi, kasıtlı olarak önyargılı çıktılar üretmeye yönelik olarak tasarlanmış bir yapay zeka modeli olan OpinionGPT'yi oluşturdu. Bu model, OpenAI'nin ChatGPT veya Anthropic'in Claude 2'si gibi yeteneklere sahip olan Meta'nın Llama 2'nin modifiye edilmiş bir versiyonudur. OpinionGPT, Amerikan, Alman veya muhafazakar gibi 11 önyargı grubunu temsil ediyormuş gibi yanıt vermek üzere eğitilmiştir. Araştırmacılar buna ulaşmak için yönerge temelli ince ayar süreci adını verdikleri bir yöntem kullanmaktadır. Llama2 modeline ayrı ayrı yönerge setleri uygulayarak, araştırmacılar her bir önyargı etiketini temsil etmeyi hedeflemiştir. Ancak, kullanılan veri setinin doğası ve gerçek dünya önyargısı ile olan şüpheli ilişkisi nedeniyle, OpinionGPT çoğunlukla eğitim verisi önyargısını yansıtan metinler üretmektedir. Araştırmacılar çalışmalarının sınırlamalarını kabul etmekte ve OpinionGPT tarafından üretilen yanıtların, tüm popülasyonun değil, belirli bir alt kümenin yansıması olarak anlaşılması gerektiğini fark etmektedir. Araştırmacılar daha spesifik demografileri daha iyi ayıran modelleri keşfetmeyi planlamaktadır. OpinionGPT, gerçek insan önyargısını incelemek için uygun olmayabilirken, büyük belge havuzlarında stereotipleri incelemek için değerli olabilir. Araştırmacılar OpinionGPT'yi test etmek için halka açık hale getirmiş olsa da, üretilen içeriğin yanlış, hatalı veya hatta müstehcen olabileceği konusunda uyarıda bulunmaktadır.
Published At
9/8/2023 8:42:29 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.