OpenAI, Yapay Zeka ile İlgili Risklerin Üstesinden Gelmek ve Potansiyel Tehditleri Azaltmak için 'Hazırlık' Girişimini Başlattı
Summary:
OpenAI, yapay zeka ile ilişkili geniş kapsamlı riskleri değerlendirmek ve azaltmak için "Hazırlık" adlı bir girişim başlatıyor. Girişim, kimyasal, biyolojik, radyolojik ve nükleer tehditler, bireysel ikna, siber güvenlik ve otonom çoğaltma dahil olmak üzere potansiyel yapay zeka tehditlerine odaklanacak. Aleksander Madry liderliğindeki ekip, sınır yapay zeka sistemlerinin kötüye kullanılmasının tehlikelerini araştıracak. OpenAI ayrıca, en iyi gönderimler için 25.000 ABD doları değerinde API kredisi verilecek ve yıkıcı kötüye kullanımın önlenmesi için bir Yapay Zeka Hazırlık Mücadelesi başlattı.
ChatGPT gibi yapay zeka teknolojisinin geliştirilmesinden sorumlu şirket olan OpenAI, yapay zeka ile ilişkili çeşitli potansiyel tehlikeleri değerlendirmeyi hedefleyen bir proje başlatıyor. 25 Ekim'de ortaya çıkan OpenAI, şu anda ana odak noktası yapay zeka teknolojisinin kullanımından kaynaklanabilecek potansiyel ezici tehlikeleri incelemek, tahmin etmek ve azaltmak olacak benzersiz bir ekip yapılandırıyor. "Hazırlık" adlı bu ekip, kimyasal, biyolojik, radyolojik ve nükleer tehditler, bireysel ikna, siber güvenlik ve spontane replikasyon ve adaptasyonlar dahil olmak üzere potansiyel AI risklerine yakından dikkat edecek.
Aleksander Madry tarafından yönlendirilen ekip, gelişmiş bir yapay zeka sisteminin yanlış kullanıldığında oluşturabileceği tehlike seviyesi veya hırsızlık durumunda zararlı unsurlar tarafından konuşlandırılıp konuşlandırılamayacağı gibi kritik soruları anlamakla görevlendirildi. OpenAI, "Sınır yapay zeka modelleri, küresel insanlığa faydalı olma potansiyeline sahip" dedi. Aynı şekilde, bu yapay zeka modellerinin de "giderek daha ciddi riskler" oluşturabileceğini savundular.
Şirketin görüşlerini açıklayan OpenAI şunları söyledi: "Günümüz sistemlerinden süper zekanın en uç noktalarına kadar yapay zeka ile ilişkili her türlü güvenlik riskini kabul ediyor ve ciddi şekilde değerlendiriyoruz... Yüksek yetenekli yapay zeka sistemlerinin güvenliğini sağlamak için, felaket riskine hazırlıklı olma yaklaşımımızı geliştiriyoruz."
OpenAI, yeni bölümü oluşturmanın yanı sıra, yapay zekanın feci şekilde kötüye kullanılmasını önlemeyi hedefleyen bir meydan okuma başlatıyor ve en iyi 10 gönderime 25.000 $ API kredisi vaat ediyor. Firma ayrıca, Hazırlık ekibinin bir parçası olmak için farklı teknik geçmişlere sahip yetenekler aradığını duyurdu.
OpenAI daha önce Temmuz 2023'te potansiyel yapay zeka tehlikeleriyle mücadeleye odaklanan bir ekip kuracağını ima etmişti. Geleneksel olarak, yapay zeka ile ilişkili potansiyel tehlikelere sıklıkla dikkat çekilir ve bu yapay zeka sistemlerinin bir gün insan zekasını aşabileceğine dair endişeleri tetikler. Bu korkulara rağmen, OpenAI gibi şirketler aktif olarak yeni yapay zeka teknolojileri geliştirmeyi takip ettiler ve istemeden daha fazla şüphe ve endişe yarattılar.
Benzer bir gelişmede, kar amacı gütmeyen bir kuruluş olan Yapay Zeka Güvenliği Merkezi, Mayıs 2023'te yapay zeka riskini vurgulayan bir açık mektup yayınladı. Merkez, yapay zekanın ortaya çıkardığı risklerin, pandemiler ve nükleer savaş gibi diğer toplumsal ölçekli risklerin yanı sıra küresel ölçekte ciddi şekilde ele alınması gerektiğine inanıyor.
Published At
10/27/2023 10:03:56 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.