NIST, Yapay Zeka Sistemlerinin Güvenli ve Etik Gelişimi Konusunda Halkın Katkısını İstiyor
Summary:
Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), yapay zekanın (AI) güvenli bir şekilde geliştirilmesi ve uygulanması hakkında halkın girdisini toplamak için bir Bilgi Talebi (RFI) yayınladı. Başkan Biden'ın Yürütme Emri'nin yönetimi altında NIST, üretken yapay zekanın risk yönetimi ve yapay zeka tarafından oluşturulan yanlış bilgileri azaltmanın yolları hakkında fikir arıyor. Enstitü ayrıca, sistem güvenlik açıklarını belirlemek için kullanılan bir strateji olan kırmızı ekip oluşturma için etkili alanları araştırıyor. Talep, NIST'in yapay zeka sistemlerini sorumlu ve güvenilir bir şekilde geliştirmesi için yapay zeka topluluğunu desteklemeye ve yapay zeka güvenliği ve yönetişimine yönelik insan merkezli yaklaşımı yükseltmeye yönelik daha geniş bir girişiminin parçasıdır.
ABD Ticaret Bakanlığı'nın Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), yapay zekanın (AI) güvenli ve etik gelişimi ve uygulanmasına ilişkin en son Yürütme Emri kapsamındaki görevlerinin bir parçası olarak bir Bilgi Talebi (RFI) yayınladı. Enstitü, yapay zeka sistemlerinin güvenliğini test etmek için kullanılacak önemli bilgileri toplamak için 2 Şubat'a kadar halka açık bir girdi süreci başlattı. Ticaret Bakanı Gina Raimondo, Başkan Joe Biden'ın NIST'e kılavuzlar geliştirmesi, rızaya dayalı standartları teşvik etmesi ve yapay zeka değerlendirmesi için test ortamları oluşturması talimatını veren Ekim ayı yürütme yönergesinin bu girişimi motive ettiğini belirtti. Bu plan, yapay zeka sektörüne yapay zekanın güvenli, güvenilir ve etik gelişiminde yardımcı olmayı amaçlamaktadır.
NIST'ten gelen bilgi talebi, yapay zeka firmalarından ve halktan, üretken yapay zekanın risk yönetimi ve yapay zeka kaynaklı yanlış bilgi risklerinin azaltılması ile ilgili içgörüleri davet ediyor. Belirsiz istemlere dayalı olarak metin, resim ve videolar oluşturabilen üretken yapay zeka, hem heyecan hem de endişelere yol açtı. İş kayıpları, seçimlerdeki karışıklıklar ve teknolojinin insan yeterliliğini aşan ve feci sonuçlara yol açabilecek potansiyeli konusunda korkular var.
RFI ayrıca, yapay zeka risk incelemesi sırasında kırmızı ekip oluşturma ve en iyi uygulamaları oluşturmak için en uygun alanlar hakkında bilgi ister. Soğuk Savaş simülasyonlarından türetilen "kırmızı takım" terimi, "kırmızı takım" olarak bilinen bir grubun, bir sistemin, sürecin veya organizasyonun zayıf noktalarını ve güvenlik açıklarını ortaya çıkarmak için akla gelebilecek düşmanca durumları veya saldırıları taklit ettiği bir yöntemi ifade etmek için kullanılır. Bu teknik, siber güvenlikte yeni tehditleri tespit etmek için uzun süredir kullanılmaktadır. İlgili bir not, ABD'deki ilk halka açık kırmızı takım etkinliğinin Ağustos ayında AI Village, SeedAI ve Humane Intelligence tarafından düzenlenen bir siber güvenlik konferansında gerçekleştiğidir.
Kasım ayında NIST tarafından yeni bir AI konsorsiyumunun duyurulması ve ilgili niteliklere sahip başvurular için çağrıda bulunan resmi bir bildirim önemli bir kilometre taşıydı. Bu konsorsiyumun amacı, ABD'li politika yapıcıların yapay zeka güvenliği ve yönetimine insan merkezli bir yaklaşımı tercih etmelerini sağlamak için belirli politikalar ve önlemler geliştirmek ve uygulamaktır.
Published At
12/20/2023 11:46:51 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.