OpenAI, Demokratik Yapay Zeka Davranışını Teşvik Eden 1 Milyon Dolarlık Hibe Projesinden Önemli Dersler Çıkardı
Summary:
OpenAI, kamu girdisine dayalı olarak yapay zeka davranışı için demokratik bir süreç oluşturmayı amaçlayan 1 milyon dolarlık hibe programından beş temel içgörü topladı. Dersler, değişen görüşlere uyum sağlamak için sık girdi süreçlerine duyulan ihtiyacı, kolektif bir sürecin temel değerleri yakalamasını sağlamayı, dijital uçurumu ele almayı, gruplar içindeki güçlü farklı görüşleri ele almayı ve farklı görüşleri temsil ederken fikir birliğini dengelemeyi içerir. Halkın endişelerini ve yapay zekanın gelecekte politikada kullanılmasına ilişkin umutlarını dikkate alan OpenAI, toplanan geri bildirimleri uygulamaya çalışıyor ve kamuoyunu yapay zeka modellerinin davranışına dahil etmeye adanmış yeni bir ekip kuruyor.
OpenAI, insani değerlerle uyumlu yapay zeka davranışını şekillendirmek için halkın katılımını arayan 1 milyon dolarlık hibe girişiminden beş temel çıkarım belirledi. Şirket, Mayıs 2023'te, yapay zeka sistemlerinin yönergelerine karar vermek için demokratik ve ön bir yöntem geliştirmeyi amaçlayan projeler için her biri 100.000 dolarlık on hibeye bölünmüş toplam 1 milyon dolar dağıtma planını duyurdu.
16 Ocak tarihli bir blog yazısında, AI firması, demokratik teknolojideki inovasyonun hibe alanlar tarafından nasıl kolaylaştırıldığını, programın onlara ne öğrettiğini ve yeni geliştirilen demokratik teknolojiyi nasıl dahil etmeyi planladıklarını ayrıntılı olarak açıkladı.
Gönderi, çeşitli ekiplerin kullanıcı duygularını çeşitli şekillerde topladığını ve kamuoyunun sık sık değişikliklere eğilimli olduğunu ve bunun da bu toplama süreçlerinin ne sıklıkta gerçekleşmesi gerektiğini belirleyebileceğini belirtti. Önemli bir anlayış, kolektif sürecin temel değerleri yakalaması ve zaman içinde perspektifteki önemli değişimlere duyarlı olması gerektiğiydi.
Ekipler, dijital uçurumun üstesinden gelmenin önemli bir engel olmaya devam ettiğini ve bunun da önyargılı sonuçlara neden olabileceğini tespit etti. Dijital uçurumu kapsayan katılımcıları edinmek, platformun kısıtlamaları ve yerel dilleri veya bağlamları anlamayla ilgili komplikasyonlar nedeniyle bir görevdi.
İlginç bir şekilde, özellikle küçük bir azınlık belirli bir konuda yerleşik görüşlere sahip olduğunda, güçlü ayrışmaya sahip gruplar içinde fikir birliğine varmanın zor olduğu gözlemlendi. Kolektif Diyaloglar ekibinden gelen bir açıklama, yapay zeka asistanlarının oturum başına belirli sorulara yanıt vermesini sınırlamama konusunda kararlı bir azınlıktı ve çoğunluk oyu sonuçlarıyla sürtüşmeye neden oldu.
OpenAI'ye göre, farklı bakış açılarını dahil ederken tek tip anlaşmayı dengelemek, amaçlanan sonuç tekil olduğunda göz korkutucu bir görevdir. Ekiplerden biri olan Inclusive.AI, oylama mekanizmalarını inceledi ve güçlü duygusal güç taşıyan ve eşit katılımı sağlayan yöntemlerin daha demokratik ve eşitlikçi olarak algılandığını buldu.
Yapay zekanın gelecekteki yönetişimdeki rolüyle ilgili endişelere gelince, blog yazısı, bazı katılımcıların şeffaflık çağrısında bulunurken yapay zekanın politika taslağında kullanımıyla ilgili endişelerini dile getirdiğini belirtti. Buna rağmen, tartışmalardan sonra, halk arasında yapay zekaya rehberlik etme yetenekleri konusunda artan bir iyimserlik gözlemlendi.
OpenAI, halkın önerilerini kullanmayı planlıyor ve araştırma ve mühendislik personelinden oluşan yeni bir Toplu Hizalama ekibi kuruyor. Modellerinin davranışı hakkında kamuoyu görüşlerini toplamak ve OpenAI'nin tekliflerine entegre etmek için bir sistem oluşturmakla görevlendirilirler.
Öte yandan yayın, sahte yapay zeka 'kaçırma', 20 bin dolarlık bir robot şef ve Ackman'ın AI Eye'daki yapay zeka intihal anlaşmazlıkları hakkında bilgi veriyor.
Published At
1/17/2024 3:17:40 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.