Anthropic, Kullanıcıdan Etkilenen Yapay Zeka Modellerinde Yenilikler Yapıyor: Demokratikleştirilmiş Yapay Zekaya Doğru Bir Adım
Summary:
Bir yapay zeka şirketi olan Anthropic, kullanıcıların değer yargılarına uyum sağlayan büyük bir dil modelini (LLM) içeren bir çalışma geliştirdi. Türünün ilk örneği olan deney, bir AI anayasasının formüle edilmesine katkıda bulunan yaklaşık 1000 ABD vatandaşını içeriyordu. Süreç bazı zorlukların altını çizdi, ancak sonuçta önyargılı çıktı açısından marjinal bir iyileşme sağladı. Anthropic, bunun bir LLM'nin davranışını etkileyen bir kamu grubunun ilk örneklerinden biri olabileceğine inanıyor ve bu tekniğin gelecekte kültürel olarak spesifik modeller oluşturmak için kullanılabileceğini umuyor.
Yapay zeka şirketi Anthropic, kullanıcıların değer yargılarına göre uyarlanmış büyük bir dil modeli (LLM) geliştirmede benzeri görülmemiş bir deneye öncülük ediyor. Yapay zeka gelişimini demokratikleştirme arayışında, @collect_intel ile işbirliği yaptı ve yaklaşık 1000 ABD vatandaşının görüşlerine dayanan bir yapay zeka anayasası oluşturmak için @usepolis kullandı. Daha sonra, kurulan model, Anayasal Yapay Zeka aracılığıyla adım adım ilerletildi.
İstenmeyen sonuçları engellemek için Anthropic'ten Claude ve OpenAI'den ChatGPT dahil olmak üzere tüketiciye yönelik birçok LLM'nin tasarımında kullanılan korkuluklar veya önceden tanımlanmış işleyiş kuralları. Bununla birlikte, eleştirmenler, benimsenen bu korkulukların kullanıcının özerkliğini ihlal ettiğini savunuyorlar. Tolere edilebilir olarak kabul edilen şeyin mutlaka faydalı olmayabileceğini ve bunun tersinin de geçerli olduğunu iddia ediyorlar. Dahası, kültürel, zamansal ve nüfussal farklılıklar ahlaki ve değer yargılarını daha da karmaşıklaştırır.
Bu karmaşık sorunu aşmanın bir yolu, kullanıcıların yapay zeka modelleri için değer hizalamasını kendilerinin tanımlamasını sağlamak olabilir. Anthropic, bu karmaşık sorunu, anketler aracılığıyla demografik arka plan açısından farklı 1000 kullanıcıya bir dizi soru sorarak Kolektif Anayasal Yapay Zeka deneyi ile çözmeye çalıştı. Amaç, editoryal takdir yetkisine izin vermek ile uygunsuz içerik çıktısını önlemek arasındaki dengeyi bulmaktır. Süreç, önceden eğitilmiş bir model üzerinde kullanıcı geri bildirimi uygulamasını içeriyordu.
Anthropic, LLM'nin güvenlik ve fayda için özel olarak hazırlanmış ince ayarını yapmak için Constitutional AI'yı kullanır. Bu, modele, daha sonra sıkı bir şekilde uyması gereken bir anayasa gibi, bir dizi kural ile talimat vermeye benzer. Kolektif Anayasal Yapay Zeka deneyinde, kolektif geri bildirimi modelin anayasasına birleştirme girişiminde bulunuldu.
Anthropic'in bir blog yazısına göre, çığır açan deney, nihai amacına ulaşma yolundaki engelleri ortaya çıkarmasına rağmen bilimsel hedeflerine ulaşmış gibi görünüyor - LLM kullanıcılarının kolektif değerlerini belirlemelerini sağlamak. Engeller, bu deneyin yeniliği nedeniyle var olan kitle kaynaklı bir alıştırma yoluyla ayarlanmış modeller için yerleşik bir test olmadığından, yenilikçi bir kıyaslama yöntemi icat etmeyi içeriyordu.
Sonuç olarak, kullanıcı yoklama verilerini içeren model, önyargılı çıktılar sektöründe marjinal olarak daha iyi performans gösterdi. Anthropic, prosedürü daha fazla keşfetmeyi dört gözle bekliyor ve gelecekteki küresel toplulukların, özellikle bireysel ihtiyaçlarını karşılayan modeller oluşturmak için bu metodolojilerden yararlanabileceklerini umuyor.
Published At
10/18/2023 5:00:00 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.