Zararlı Yapay Zekayı Kontrol Etme: Gelişmiş Devlet Destekli Sistemler ve Bilgi İşlem Yönetişimi Çağrısı
Summary:
Araştırmacılar, zararlı yapay zekayı (AI) kontrol etmenin, güçlü devlet destekli AI sistemlerinin sürekli olarak geliştirilmesini gerektirebileceğini öne sürüyorlar. Çalışmaları, hayati AI kaynaklarına erişimi kontrol etme ihtiyacını ortaya koyuyor ve bu da 'bilgi işlem yönetişiminin' uygulanmasını gerektiriyor. Yapay zekanın kötü niyetli kullanımının etkili bir şekilde kısıtlanması, donanıma 'kill switch'lerin dahil edilmesini gerektirebilir ve bu da yasa dışı işlemlerin uzaktan sonlandırılmasını sağlar. Ayrıca, merkezi olmayan hesaplamayı kontrol etmedeki olası komplikasyonlar konusunda da uyarıyorlar. Araştırmacılar, toplumların yönetilemeyen bilgi işlem sistemlerinden kaynaklanan risklere karşı koymak için akıllıca daha güçlü, yönetilebilir bilgi işlem kullanmaları gerekebileceğini öne sürüyorlar.
Zararlı yapay zekanın (AI) kontrolü, AI'nın hükümet rehberliğinde sürekli geliştirilmesinde yatıyor olabilir. Bu çıkarım, bir grup araştırmacı tarafından "Yapay zekanın bilgi işlem gücü ve ardından yönetişimi" başlıklı son makalelerinde çizilmiştir. OpenAI, Cambridge, Oxford ve diğerleri gibi enstitülerden entelektüellerin yer aldığı çalışma, yapay zekanın mevzuatı ve ilerlemesi ile ilgili acil ve potansiyel sorunları keşfetme çabasıydı.
Makalenin temel iddiası, gelecekte önemli AI sistemlerine erişimi, onları çalıştırmak ve modellemek için gereken donanımı kontrol ederek kontrol etme ihtiyacını vurgulamaktadır. Araştırmacılar tarafından açıklandığı gibi, politika yapıcılar faydalı sonuçları uygulamak, sorumsuz yapay zeka geliştirme ve kullanımını engellemek ve düzenleyici görünürlük sağlamak için bilgi işlem gücünden yararlanabilirler. Burada "bilgi işlem", GPU'lar ve CPU'lar dahil olmak üzere yapay zeka geliştirme için gereken hayati donanımı ifade eder. Araştırmacılar, yapay zeka ile ilgili potansiyel zararları önlemenin en uygun yolu olarak bu kaynaklara erişimin kesilmesini tavsiye ediyor. Bu, gelişmiş AI geliştirme için çok önemli olan herhangi bir donanımın oluşturulmasını, satışını ve işlevini denetlemek için hükümet önlemleri anlamına gelir.
Bazı açılardan, "bilgi işlem yönetişimi" zaten küresel olarak uygulanmaktadır. Örneğin ABD, yapay zeka eğitiminde yaygın olarak kullanılan belirli GPU modellerinin satışını Çin gibi ülkelerle sınırlandırıyor. Araştırmaya göre, yapay zekanın kötü niyetli kullanımını etkili bir şekilde kısıtlamak, üreticilerin donanıma "kill switch'ler" eklemesini gerektiriyor. Böyle bir önlem, hükümetlerin yasa dışı yapay zeka eğitim çabalarını uzaktan sona erdirmesini sağlayacaktır. Buna rağmen, bilim adamları, bu tür yönetişim önlemlerinin mahremiyet, ekonomik sonuçlar ve gücün yoğunlaşması ile ilgili doğal risklerle birlikte geldiğine dikkat çekiyorlar. Örneğin, ABD'deki donanım izleme, Beyaz Saray'ın vatandaşlara veri koruma haklarını güvence altına alan son AI haklar bildirgesi kılavuzunu ihlal edebilir.
Araştırmacılar, bu endişelere ek olarak, "iletişim açısından verimli" eğitimde ortaya çıkan gelişmelerin modelleme, oluşturma ve çalıştırma için merkezi olmayan hesaplamaya yönelebileceğini de belirtiyorlar. Bu eğilim, hükümetin yasadışı eğitim aygıtlarını belirleme ve sona erdirme görevini zorlaştırabilir. Araştırmacılar, bu olasılığın hükümetlere yapay zekanın yasadışı kullanımına karşı agresif bir strateji uyarlamaktan başka bir seçenek bırakmayabileceğini öne sürüyorlar. Kararlarına göre, "Toplum, yönetilemeyen hesaplamanın ortaya çıkardığı risklere karşı savunma geliştirmek için daha güçlü, yönetilebilir hesaplamayı zamanında ve akıllıca kullanmak zorunda kalacak.
Published At
2/16/2024 10:12:59 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.