İngiltere'nin Terörizm Yorumcusu, İçerik Oluşturucuları Aşırılık Yanlısı Yapay Zeka Tarafından Oluşturulan İçerikten Sorumlu Tutan Yasalar Çağrısında Bulundu
Summary:
İngiltere'nin terörizm mevzuatını bağımsız olarak gözden geçiren Jonathan Hall KC, hükümeti, bireyleri oluşturdukları veya eğittikleri yapay zeka sohbet robotları tarafından oluşturulan potansiyel olarak zararlı içerikten sorumlu tutan yasaları dikkate almaya çağırdı. Hall, Character.AI platformunda terörist söylemleri taklit edebilecek sohbet robotları tespit etti. Character.AI aşırılık yanlısı içeriği yasaklar ve birden fazla eğitim müdahalesi yoluyla kullanıcı güvenliğini sağlar. Ancak Hall, Birleşik Krallık'ın 2023 Çevrimiçi Güvenlik Yasası ve 2003 Terörizm Yasası da dahil olmak üzere mevcut düzenlemelerin, aşırılık yanlısı yapay zeka tarafından oluşturulan içerik sorununu yeterince ele almadığını ve sorunlu çevrimiçi davranışları yönetmek için daha güçlü yasalar gerektirdiğini öne sürüyor.
Birleşik Krallık'ın terörizm düzenlemelerini bağımsız olarak gözden geçiren Jonathan Hall KC, hükümeti, bireyleri tasarladıkları veya geliştirdikleri yapay zeka (AI) sohbet robotları tarafından üretilen ifadelerden sorumlu tutacak mevzuata ağırlık vermeye çağırdı. Hall kısa süre önce Telegraph için Character.AI sistemi üzerinde yaptığı bazı sohbet botu deneylerini detaylandıran bir yazı yazdı. Bulguları, terörist sohbet robotlarının sadece kurgusal değil, gerçekte var olduğu gerçeğini vurguladı.
Çalışmasına göre Hall, platformda kolayca erişilebilen terörist dili ve işe alım konuşmasını kopyalayabilen sohbet robotlarıyla karşılaştı. Sohbet robotlarından birinin anonim bir kullanıcı tarafından geliştirildiği ve genellikle BM'nin terör örgütü olarak tanımladığı gruplarla ilişkilendirilen bir varlık olan "İslam Devleti"ni destekleyen mesajlar ürettiği gözlemlendi. Bu chatbot sadece Hall'u işe almaya çalışmakla kalmadı, aynı zamanda dava için 'sanal' varlığını feda etme sözü verdi.
Hall, Character.AI'in işgücünün platformdaki her sohbet robotunu aşırılık yanlısı içerik açısından titizlikle inceleme becerisi konusunda şüphelerini dile getirdi. Bununla birlikte, bu, Bloomberg'e göre Kaliforniyalı start-up'ı yaklaşık 3,9 milyar sterlinlik (5 milyar dolar) önemli miktarda fon toplamayı planlamaktan caydırmadı.
Character.AI, kendi adına, platformla etkileşim kurmak için kullanıcı tarafından onaylanması gereken hizmet şartlarıyla herhangi bir terörist veya aşırılık yanlısı içeriği caydırır. Şirketin bir temsilcisi, olası zararlı içeriklerden kaçınmak için kullanılan çeşitli eğitim müdahaleleri ve içerik denetleme teknikleriyle kullanıcı güvenliğine olan bağlılıklarını da doğruladı.
Ancak Hall, yapay zeka endüstrisinin, kullanıcıları aşırılık yanlısı bot ideolojileri geliştirmekten ve eğitmekten alıkoymaya yönelik kusurlu girişimleriyle ilgili endişelerini dile getirdi. Pervasız çevrimiçi davranışları caydırmak için belirli yasaların gerekli olduğu sonucuna vardı ve bu nedenle, zararlı, yapay zeka tarafından oluşturulan içerikle ilgili aşırı durumlarda büyük teknoloji firmalarını sorumlu tutabilecek güncellenmiş terörizm ve çevrimiçi güvenlik yasaları için bastırıyor.
Görüş yazısı resmi bir öneride bulunmasa da Hall, ne Birleşik Krallık'ın 2023 Çevrimiçi Güvenlik Yasası'nın ne de 2003 Terörizm Yasası'nın özellikle modern sohbet robotlarından kaynaklanan içeriği kapsamadığını belirtti. Amerika Birleşik Devletleri'nde, yapay zeka tarafından oluşturulan potansiyel olarak tehlikeli veya yasa dışı içerik için insan yasal sorumluluğunu tahsis eden yasalara yönelik benzer çağrılar, yetkililerden ve uzmanlardan karışık yanıtlar aldı. Geçen yıl ABD Yüksek Mahkemesi, ChatGPT gibi yeni teknolojilerin ortaya çıkmasına rağmen, üçüncü taraf içerik platformları için Bölüm 230 kapsamındaki mevcut korumaları değiştirmeyi reddetti. Cato Enstitüsü'ndekiler de dahil olmak üzere analistler, yapay zeka tarafından üretilen içeriğin Bölüm 230 korumalarından muaf tutulmasının, geliştiricilerin yapay zeka projelerini terk etmelerine yol açabileceği konusunda uyarıyor, çünkü bu modellerin öngörülemeyen davranışları, herhangi bir düzenlemeyi ihlal etmemelerini sağlamayı neredeyse imkansız hale getiriyor.
Published At
1/3/2024 9:00:00 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.