Yapay Zeka Uzmanları, Güvenlik Endişeleri Arasında Gelişmiş İhbar Korumaları İçin Bir Araya Geldi
Summary:
Önde gelen yapay zeka şirketlerinin eski personeli, yapay zeka geliştirmeyle ilgili riskle ilgili endişelerin açıkça dile getirilmesine izin vermek için daha güçlü muhbir korumalarını savunuyor. "Yapay Zekayı Uyarma Hakkı" dilekçesi, eleştiriyi memnuniyetle karşılayan bir açıklığı teşvik etmeyi ve ciddi yapay zeka risklerini vurgulayan muhbirler için yasal koruma sağlamayı amaçlıyor. Kampanya, yeni yapay zeka modellerinin, özellikle de yapay genel zekayı içerenlerin güvenlik önlemleriyle ilgili artan endişeleri yansıtıyor.
Önde gelen yapay zeka firmalarının eski çalışanları, karmaşık yapay zeka sistemlerinin evrimindeki potansiyel riskler hakkında şeffaflığı teşvik etmek için bu şirketlerde daha güçlü ihbarcı korumalarını savunuyor. 4 Haziran'da OpenAI (ChatGPT), Anthropic (Claude) ve DeepMind'da (Google) çalışan 13 eski ve şu anda çalışan profesyoneller tarafından "Yapay Zekayı Uyarma Hakkı" başlıklı bir imza kampanyası başlatıldı. Bu ünlü grup aynı zamanda Yoshua Bengio, Geoffrey Hinton ve Stuart Russell gibi yapay zeka armatürlerini de içeriyordu. Amaçları, önde gelen yapay zeka şirketlerini, personelinin yapay zeka riskleriyle ilgili endişelerini dahili olarak ve daha geniş bir kamuoyuyla paylaşmasına izin vermeye ikna etmektir.
OpenAI'nin eski bir çalışanı ve kampanyanın destekçisi olan William Saunders, potansiyel tehlikeli teknoloji yenilikleriyle uğraşırken risk bilgilerini bağımsız uzmanlara, hükümet yetkililerine ve genel halka ifşa edecek bir mekanizmaya sahip olmanın zorunlu olduğunu belirtti. Şu anda, sınır yapay zeka sistemleri ve ilgili riskler hakkında en derin anlayışa sahip olanların, geri tepme korkusu ve katı gizlilik sözleşmeleri nedeniyle korkularını ifade etmekte tereddüt edebileceklerini gözlemledi.
Teklif dört temel öneri ile birlikte geliyor. Birincisi, risklerle ilgili aşağılamama maddelerini iptal etmektir, böylece firmalar çalışanları susturamaz veya yapay zeka riskleriyle ilgili endişelerini dile getirdikleri için onları cezalandıramaz. Daha sonra, bireylerin yapay zeka riskleriyle ilgili endişelerini dile getirmeleri için anonim kanallar kurmayı ve böylece açık eleştiriyi memnuniyetle karşılayan bir atmosferi teşvik etmeyi öneriyorlar. Son çağrıları, şirketlerin ciddi yapay zeka risklerine maruz kalma riski taşıyan çalışanlara misilleme yapmamasını sağlamak için muhbirler için yasal koruma sağlamaktır. Saunders, bu ilkeleri, yapay zeka şirketlerini yalnızca faydalı değil, aynı zamanda güvenli yapay zeka yaratmaya teşvik edecek "proaktif bir yaklaşım" olarak nitelendirdi.
Kampanya, yapay zeka laboratuvarlarının yeni modellerini geliştirirken, özellikle de insan zekasını taklit eden ve bağımsız olarak öğrenebilen yazılımlar geliştirmeyi amaçlayan yapay genel zeka (AGI) ile uğraşırken, güvenlik önlemlerini nasıl göz ardı ettiğine dair artan endişelerin bir türevidir. OpenAI'nin eski bir çalışanı olan Daniel Kokotajlo, şirketten ayrılma kararının, şirketin AGI amaçlarını sorumlu bir şekilde ele aldığına olan inancını kaybetmesinden kaynaklandığını paylaştı. Kokotajlo, "hızlı hareket et ve bir şeyleri kır" kültürel yaklaşımının, AGI kadar güçlü ve yanlış anlaşılan teknolojiyle uyumsuz olduğunu belirtti.
OpenAI'nin eski direktörü Helen Toner, 28 Mayıs'ta bir Ted AI podcast'inde OpenAI CEO'su Sam Altman'ın yönetim kurulundan kritik bilgileri sakladığı gerekçesiyle şirketten kovulduğuna dair söylentiler olduğunu açıkladı.
Published At
6/4/2024 4:59:35 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.