OpenAI, Potansiyel Yapay Zeka Felaketlerine Karşı 'Hazırlık' Ekibini Tanıttı
Summary:
Yapay zeka araştırma ve geliştirme şirketi OpenAI, potansiyel yapay zeka tehditlerine odaklanan yeni girişimi 'Hazırlık'ı duyurdu. Aleksander Madry liderliğindeki bu ekip, yapay zekadan kaynaklanan potansiyel felaket risklerini izleyecek, değerlendirecek, öngörecek ve en aza indirecek. Birincil odak alanları kimyasal, biyolojik, radyolojik ve nükleer tehditler, bireyselleştirilmiş ikna, siber güvenlik ve otonom çoğaltma adaptasyonu olacaktır. Bunun yanı sıra OpenAI, en iyi gönderimlere 25.000 ABD doları API kredisi sağlayan bir Yapay Zeka Hazırlık Yarışması başlattı. Firma ayrıca yeni ekibe katılmak için çeşitli teknik disiplinlerden adaylar talep ediyor.
ChatGPT de dahil olmak üzere yapay zeka teknolojisinin geliştirilmesinden ve araştırılmasından sorumlu kuruluş olan OpenAI, yapay zeka ile bağlantılı çok çeşitli tehlikeleri belirlemek ve ele almak için yeni bir stratejik plan başlatıyor. Kuruluş, 25 Ekim'de, yapay zeka teknolojisinin uygulanmasından kaynaklanan potansiyel felaket tehlikelerini belirlemek, değerlendirmek, proaktif olarak tahmin etmek ve bunlara karşı koruma sağlamak için uzman bir ekip geliştirdiğini açıkladı. OpenAI'nin "Hazırlık" birimi olarak adlandırılan bu odaklanmış bölümü, öncelikle kimyasal, biyolojik, radyolojik ve nükleer zararlarla ilişkili potansiyel yapay zeka risklerinin yanı sıra kişiselleştirilmiş ikna, siber güvenlik ve otonom çoğaltma ve evrime odaklanacak. Aleksander Madry'nin öncülük ettiği Hazırlık ekibi, sınır yapay zeka sistemlerinin kötüye kullanıldığında sunabileceği tehlikenin boyutunu ve bu sistemlerin çalıntı yapay zeka model ağırlıkları elde eden kötü niyetli kişiler tarafından etkili bir şekilde kullanılıp kullanılamayacağını belirlemeye çalışacak. OpenAI, "Frontier AI modelleri, şu anda var olan en gelişmiş modellerin yeteneklerini aşma potansiyelleriyle, insanlığa büyük fayda sağlama vaadi sunuyor" dedi. Ancak şirket, bu modellerin sunduğu sürekli artan riskleri de itiraf etti. Şirket ayrıca, "Mevcut sistemlerden süper zekanın akla gelebilecek zirvelerine kadar AI ile ilgili her güvenlik riskini ciddiye alıyoruz. Gelişmiş yapay zeka sistemlerinin güvenliğini sağlamak için, yıkıcı risklere karşı hazırlıklı olma stratejimizi geliştiriyoruz." OpenAI, blog gönderisinde şu anda Hazırlık ekibine katılmak için farklı teknik geçmişlere sahip yetenekli bireyler aradıklarını açıkladı. Ek olarak, feci kötüye kullanımı önlemeye yönelik girişimleri teşvik etmek için Yapay Zeka Hazırlık Yarışması'nı başlattılar ve ilk 10 giriş 25.000 ABD Doları değerinde API kredisi aldı. Şirketin Temmuz 2023'te potansiyel yapay zeka risklerini ele alan bir ekip kurma planlarını açıklamış olması dikkat çekicidir. Yapay zeka teknolojisiyle ilgili tehlikelere tekrar tekrar vurgu yapıldı ve yapay zekanın potansiyel olarak insan zekasını aşabileceğine dair endişeler var. Bu risklerin farkında olmalarına rağmen, OpenAI gibi firmalar yapay zeka teknolojisini aktif olarak ilerletmeye devam etti ve böylece daha fazla endişeyi körükledi. Mayıs 2023'te, kar amacı gütmeyen kuruluş Center for AI Safety, yapay zeka riskini vurgulayan ve pandemiler ve nükleer savaş gibi diğer büyük ölçekli tehditlerin yanı sıra yapay zekadan insan neslinin tükenme riskini azaltmak için toplu eylem çağrısında bulunan bir kamu mektubu yayınladı.
Published At
10/27/2023 10:03:00 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.