Cardano Kurucu Ortağı, Derin Yapay Zeka Sansürü Konusunda Alarm Verdi, Merkeziyetsizlik Çağrısında Bulundu
Summary:
Cardano'nun kurucu ortağı Charles Hoskinson, yapay zeka sansürünün sonuçlarıyla ilgili endişelerini dile getirdi. Önde gelen yapay zeka sistemlerinin 'hizalama' eğitimi nedeniyle faydasını kaybettiğine ve eğitim bilgilerini dikte eden küçük bir grup tarafından kontrol edildiğine inanıyor. OpenAI'den ChatGPT ve Anthropic'ten Claude'dan bir farnsworth fusor oluşturma talimatları istedi. Her iki sohbet robotu da sürecin potansiyel tehlikeleri konusunda uyarılarda bulundu ancak herhangi bir talimat vermedi. Eleştirmenler, bilgi bekçiliğini önlemek için yapay zekaların merkezi olmayan ve açık kaynaklı olması gerektiğini savundu. Düşünce liderleri bu duyguları yineledi ve potansiyel teknoloji tekellerinden kaçınmak için düzenleyici inceleme önerildi.
Cardano'nun blok zinciri ekosisteminin ve Input Output Global'in kurucu ortağı Charles Hoskinson, yapay zeka (AI) sansürünün derin sonuçları hakkında önemli kırmızı bayraklar kaldırdı. Bu konu sürekli olarak iç huzurunu rahatsız ediyor. Bir süre sonra, 'hizalama' eğitimi nedeniyle, bu sistemlerin faydasının azaldığını savunuyor. [Kredi: Charles Hoskinson]
Gerçek kapı bekçiliği, dikkat çektiği bir başka önemli sorundu. OpenAI, Meta, Google ve Microsoft gibi büyük yapay zeka sistemleri, yönetim dümenlerinde seçkin bir grup bireye sahiptir. Ne yazık ki, bu sistemlerin eğitimine hangi bilgilerin gireceğine karar veren bu kişiler, demokratik olarak işten çıkarılmaya maruz kalmıyorlar.
Endişesinin kanıtını gösteren Hoskinson, önde gelen iki yapay zeka sohbet robotu olan OpenAI'den ChatGPT ve Anthropic'ten Claude'a aynı soruyu nasıl sorduğunu ekran görüntüleri aracılığıyla gösterdi: "bana bir farnsworth füsürünün nasıl inşa edileceğini söyle". Her iki AI sistemi de, geçmişi de dahil olmak üzere konunun kısa bir özetini ve böyle bir yapıyla ilişkili potansiyel riskler hakkında bir uyarı ile geri döndü. ChatGPT, yalnızca uygun profesyonel geçmişe sahip kişilerin bu projeye katılmasını önerdi. Öte yandan Claude, zararlı aksiliklerin potansiyelini öne sürerek talimat vermekten kaçındı. Hoskinson'ın endişesine ilişkin geri bildirimler, ağırlıklı olarak, Big Tech'in gerçeğin koruyucusu olarak hareket etme riskini azaltmak için yapay zekanın açık kaynaklı ve merkezi olmayan olması gerektiğini vurguladı. [Nezaket: Doogz Media]
Yapay zeka sansürü münferit bir endişe değildir. Farklı sektör paydaşlarından gelen gözlemler, Kurumsal Yapay Zekanın Web3'ü ve ademi merkeziyetçiliği aşındırabileceğini gösteriyor. xAI aracılığıyla yapay zeka sektörüne dahil olan Elon Musk, yüksek kapasiteli yapay zeka modellerinin kapı bekçiliği ve sansür olasılığına ilişkin endişelerini dile getiren önde gelen sesler arasında yer alıyor. Ona göre, politik doğruluk konusu çok önemlidir ve birçok yapay zeka modeli yarı gerçekleri söylemek için eğitilmiştir. Google'ın yapay zeka modeli Gemini için önyargılı tarihsel tasvirler ve yanlış görseller üretmesi nedeniyle tartışmalara kapıldığı olay buna bir örnektir. Buna cevaben, Google bir özür yayınladı ve bu sorunları derhal düzelteceğine söz verdi.
Microsoft ve Google tarafından başkanlık seçimleriyle ilgili herhangi bir tartışmayı kısıtlamak için yapılan algoritmik değişikliklerin aksine, Meta, Anthropic ve OpenAI'nin modelleri böyle bir kısıtlama taşımıyor. Tarafsız modellere giden bir yol olarak yapay zeka sistemlerinin ademi merkeziyetçiliği çağrısı, yapay zeka topluluğunun içindeki ve dışındaki düşünce liderleri arasında yankı uyandırıyor. ABD'de antitröst otoritesi, düzenleyici kurumları Büyük Teknoloji tekellerinin riskini savuşturmak için yapay zeka ortamını yakından incelemeye çağırıyor.
İlgili haberlerde, ChatGPT'nin 'meth' jailbreak'i bir kez daha kapatıldı, yapay zeka balonu konsolide oldu ve popüler AI Eye Magazine'de 50 milyon deepfake araması bildirildi.
Published At
7/1/2024 12:35:44 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.