OpenAI'de Değişiklik: Kilit Araştırmacılar, Yapay Zeka Güvenlik Öncelikleri Hakkındaki Farklı Görüşler Nedeniyle İstifa Etti
Summary:
OpenAI'nin potansiyel yapay zeka risklerine odaklanan ekibinden kilit araştırmacılar, kuruluşun öncelikleri konusundaki anlaşmazlıklar nedeniyle ya istifa etti ya da yeniden atandı. Bu, OpenAI'nin baş bilim adamı Ilya Sutskever ve süper hizalama ekibinin eş başkanı Jan Leike'nin ayrılışını takip ediyor. Leike, OpenAI'yi yapay zeka güvenliği yerine ürün geliştirmeye öncelik verdiği için eleştirerek, güvenlik araştırması için acil kaynak ihtiyacının altını çizdi. 'Superalignment' ekibini feshetmeye yönelik son hamle, şirketin devam eden iç yeniden yapılanmasının ortasında geldi. Sutskever daha önce yönetim kurulu kararlarının OpenAI'nin insanlığın yararına AGI'yi geliştirmeye bağlılığını sağlamayı amaçladığını belirtmişti.
Son haberlerde OpenAI, yapay zekanın potansiyel tehlikelerini şiddetle araştıran ekibinde tam bir değişim gördü ve tüm üyeler ya görevlerinden ayrıldı ya da çeşitli araştırma gruplarına yeniden atandı. Bu, OpenAI'nin baş bilim adamı ve kurucu ortağı Ilya Sutskever'in şirketten ayrılma kararını kamuoyuna açıklamasının hemen ardından geldi. Ayrıca, OpenAI'nin süper hizalama ekibinin üst düzey yetkilisi, daha önce DeepMind ile ilişkili olan Jan Leike, görevinden istifa etti ve istifasını X platformunda resmen iletti.
Leike'nin çıkışı, şirketin yapay zeka güvenliğinin önemini iddia etmek yerine ürün geliştirmeye odaklanmaya yöneldiğini düşündüğü mevcut hedeflerine olan güvensizliğine bağlandı. Bir dizi yayında Jan Leike, OpenAI'nin direktif vurgularına katılmadı ve yönetimi, çok çeşitli görevleri yerine getirirken insan yetenekleriyle eşleşmesi ve hatta daha iyi performans göstermesi beklenen teorik bir yapay zeka biçimi olan AGI veya Yapay Genel Zeka'nın ilerlemesi konusunda güvenlik ve hazırlığa dikkat etmeye çağırdı.
Kariyerinin üç yılını OpenAI'ye adayan Leike, kuruluşun göz alıcı ürünler geliştirmeye yönelik tercihli muamelesine ilişkin endişelerini dile getirerek, sağlıklı bir kültürün ve yapay zeka güvenliğine odaklanan sistemlerin önemli ölçüde beslenmesini bir kenara bıraktı. Ekibi tarafından yönetilen önemli güvenlik odaklı araştırmaları desteklemek için başta hesaplama becerisi olmak üzere kaynakları yeniden tahsis etme ihtiyacını şiddetle vurguladı, bu da bariz bir şekilde göz ardı edilen bir görevdi.
OpenAI, bir önceki yılın Temmuz ayında, insan mucitlerini geride bırakabilen ve onları alt edebilen, güler yüzlü verimli bir yapay zekanın olası ortaya çıkışına hazırlanmak amacıyla yeni bir araştırma grubunun oluşumunu üstlendi. Bu yeni fraksiyonun eş başkanı, OpenAI'nin hesaplama kaynaklarının %20'si tarafından desteklenen OpenAI'nin baş bilim adamı ve kurucu ortağı Ilya Sutskever'di.
Son zamanlardaki istifaların ışığında OpenAI, 'Superalignment' ekibini dağıtmaya ve sorumluluklarını kendi yetkisi altındaki diğer araştırma girişimleriyle harmanlamaya karar verdi. Bu hareketin, Kasım 2023'te ortaya çıkan yönetim krizini ele alan organizasyon içindeki yeniden yapılanma değişikliklerinin bir sonucu olduğu düşünülüyor. Sutskever, bu dönemde CEO Altman'ın OpenAI yönetim kurulundan geçici olarak kovulmasını kolaylaştırmada önemli bir rol oynadı ve kısa bir süre sonra çalışan organının direnişinin ardından eski durumuna getirildi.
Bildirildiğine göre Sutskiver, yönetim kurulunun Sam Altman'ı görevinden alma kararlılığının, OpenAI'nin AGI gelişiminin insanlığın yararına olmasını sağlama görevleriyle uyumlu olduğunu işgücüne açıkladı. Kurulun altı üyesi arasında çok önemli bir kişi olan Sutskever, yönetim kurulunun OpenAI'nin misyonunu daha büyük ortak hedefle uyumlu olarak güçlendirme taahhüdünü yineledi.
Published At
5/18/2024 2:30:32 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.