OpenAI, CEO'nun Eski Durumuna Getirilmesinin Ardından Yapay Zeka Risklerini Değerlendirmek için 'Hazırlık Çerçevesi' Başlatacak
Summary:
Bir yapay zeka (AI) geliştiricisi olan OpenAI, bir 'Hazırlık Çerçevesi' sunmayı planlıyor. Bu şema, potansiyel riskleri değerlendirmekle görevli özel bir ekip içerir. Strateji, gelişmiş modellerden kaynaklanan olası risklere karşı koruma sağlamak için bir kontrol ve denge sistemi eklemeyi amaçlamaktadır. Plan, güvenlik raporlarının incelendiği ve ardından şirket düzeyinde incelemeye gönderildiği bir süreci içeriyor ve yeni çerçeve, kurulun güvenlik kararlarını tersine çevirmesine izin veriyor. Bu, OpenAI için CEO Sam Altman'ın kovulduğu ve ardından eski durumuna getirildiği çalkantılı bir dönemi takip ediyor. Yapay zekaya yönelik artan kamuoyu ilgisi ve endişeleri arasında, OpenAI de dahil olmak üzere önde gelen geliştiriciler, öz düzenleme için The Frontier Forum'u kurdu ve Biden Yönetimi yeni yapay zeka güvenlik standartlarını belirledi.
Bir yapay zeka (AI) geliştiricisi olan OpenAI, kısa süre önce bir 'Hazırlık Çerçevesi' başlatma planlarını açıkladı. Bu strateji, potansiyel riskleri değerlendirmeyi ve tahmin etmeyi amaçlayan özel bir ekibin oluşturulmasını içerir. Şirketin yakın zamanda yayınlanan 18 Aralık tarihli blog yazısı, bu 'Hazırlık Ekibinin' OpenAI'nin güvenlik ve politika bölümlerini birbirine bağlayacağını belirtti. Kontrol ve denge anlayışıyla işleyen bu sistemin, giderek daha karmaşık hale gelen modellerin tetiklediği yakın "felaket risklerine" karşı bir koruma görevi görmesi bekleniyor. OpenAI, teknolojisini yalnızca güvenlik güvencesi altında kullanıma sunacağı konusunda ısrar etti. Yeni önerilen strateji, daha sonra incelenmek üzere şirket yöneticilerine ve OpenAI yönetim kuruluna iletilecek olan güvenlik raporlarını inceleyen danışma panelini içeriyor. Yöneticilerin nihai kararı verme yetkisine sahip olmasına rağmen, en son teklif, yönetim kuruluna güvenlik kararlarını bozma esnekliği veriyor. Bu hareket, OpenAI'nin Kasım ayında yaşadığı ve Sam Altman'ın CEO olarak aniden görevden alınması ve bunun sonucunda eski durumuna getirilmesiyle işaretlenen bir kargaşanın ardından geldi. Altman'ın şirkete yeniden girmesinden sonra OpenAI, Bret Taylor (Başkan), Larry Summers ve Adam D'Angelo dahil olmak üzere yeni atanan yönetim kurulunu açıkladı. Kasım 2022'de ChatGPT gibi son lansmanların ışığında, yapay zekaya olan ilgisi, topluma potansiyel zararına ilişkin artan endişelerle birlikte arttı. Temmuz ayında, OpenAI, Microsoft, Google ve Antropic gibi katılımcılarla birlikte en iyi yapay zeka geliştiricileri The Frontier Forum'u başlattı. Bu forum, sorumlu yapay zekanın oluşturulmasında tanıtılan öz düzenlemeyi denetlemeye odaklanmaktadır. Biden Yönetimi ayrıca Ekim ayında, gelişmiş modeller geliştiren ve bunları yürüten kuruluşlar için yeni güvenlik kısıtlamaları belirleyen bir yürütme emri çıkardı. Bu yürütme emrinin açıklanmasından önce, önde gelen yapay zeka geliştiricileri, katılımcılar arasında OpenAI'nin de bulunduğu güvenli ve şeffaf yapay zeka modelleri oluşturma konusundaki taahhütlerini taahhüt etmek için Beyaz Saray'a çağrıldı.
Published At
12/19/2023 11:36:24 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.