Siyasette Yapay Zeka Kaynaklı Deepfake'lerin Artan Tehdidi: 2024 Seçim Mücadelesi
Summary:
2024 seçimleri yaklaşırken ABD, Kuzey Amerika'da sıklığı %1,740 oranında patlayan yapay zeka kaynaklı siyasi deepfake'lerin yükselişiyle boğuşuyor. Bu yeni dolandırıcılık eğilimi, otomatik aramalarda yapay zeka tarafından oluşturulan seslerin yasaklanması gibi yasal işlemlere yol açtı. Ancak uzmanlar, teknolojik ilerlemenin yakında özel teknolojiler olmadan insan gözüyle tespit edilmesini imkansız hale getirebileceği konusunda uyarıyor. Önerilen çözümler arasında zorunlu AI içerik kontrolleri ve sosyal medya platformlarında kullanıcı doğrulaması yer alıyor. Dünyanın dört bir yanındaki hükümetler, Hindistan'ın onay mekanizmaları araması ve Avrupa'nın yapay zeka yanlış bilgilendirme yönergeleri belirlemesiyle bu sorunu çözmek için yeterli önlemleri düşünüyor.
2024 seçim döngüsü yaklaşırken, Amerika Birleşik Devletleri, diğer küresel ülkelerle birlikte, yeni teknolojilerin ortaya çıkardığı farklı bir meydan okumaya hazırlanıyor. Halka açık yapay zeka araçlarının ortaya çıkması, siyasi derin sahtekarlıklarda bir artışa yol açtı ve seçmenlerin gerçeği kurgudan ayırmak için ayırt etme becerilerini geliştirmelerini gerektirdi. Senato İstihbarat Başkanı Mark Warner, 27 Şubat'ta yaptığı açıklamada, ABD'nin yaklaşan seçimler için seçim sahtekarlığıyla başa çıkmak için önceki 2020'ye kıyasla daha az donanımlı olduğunu iletti. Bu durum, öncelikle ülkede bir önceki yıla göre yapay zeka tarafından üretilen deepfake'lerin çoğalmasından kaynaklanıyor. Kimlik doğrulama hizmeti SumSub'ın verileri, Kuzey Amerika'nın deepfake olaylarında %1.740'lık büyük bir artışa tanık olduğunu ve 2023'te bu tür örneklerin tespitinde küresel olarak on kat artış olduğunu ortaya koyuyor. Şok edici bir olayda, 20-21 Ocak'ta New Hampshire sakinleri, Başkan Joe Biden'ın sesini taklit eden ve 23 Ocak'taki ön seçimlerde oy kullanmamalarını söyleyen otomatik çağrılar aldı. Bu, bir hafta sonra ABD'li düzenleyicilerin otomatik telefon dolandırıcılıklarında yapay zeka tarafından oluşturulan seslerin kullanımını yasaklamasına yol açtı ve bu tür eylemleri ABD telefonla pazarlama yasalarının ihlali haline getirdi. Ancak, bu tür yasal önlemler genellikle dolandırıcıları caydırmakta başarısız olur. Ülke, önemli sayıda ABD eyaletinin ön seçimlere ve parti toplantılarına ev sahipliği yaptığı bir gün olan 5 Mart'taki Süper Salı'ya hazırlanırken, yapay zeka tarafından oluşturulan sahte bilgiler ve derin sahtekarlıklarla ilgili endişeler hızla artıyor. SumSub'ın yapay zeka ve makine öğrenimi başkanı Pavel Goldman Kalaydin, seçmenlerin deepfake'leri tanımak ve potansiyel deepfake kimlik sahtekarlığı vakalarını yönetmek için kendilerini nasıl eğitebileceklerini açıkladı. Kalaydin, üst düzey GPU'lar ve üretken yapay zeka modelleri kullanan ileri teknoloji grupları tarafından oluşturulan derin sahtekarlıkları ve standart araçlar kullanan daha az karmaşık dolandırıcılar tarafından üretilenleri belirleme ihtiyacını vurguladı. Seçmenleri içeriği incelemeye ve bilgi kaynaklarını doğrulamaya, güvenilir, inandırıcı kaynakları belirsiz olanlardan ayırmaya çağırdı. Tutarsız el hareketleri, yapay arka planlar, aydınlatma değişiklikleri, cilt tonu farklılıkları, olağandışı göz hareketleri, dudak senkronizasyonu tutarsızlıkları ve dijital eserler gibi çeşitli deepfake varlığı belirtileri tespit etti. Ancak, hızla gelişen teknolojinin, yakında özel algılama teknolojilerine ihtiyaç duymadan derin sahtekarlıkların insan tarafından tanımlanmasını imkansız hale getirebileceği konusunda uyardı. Kalaydin, artan sorunun deepfake üretimi ve ardından yayılmasında yattığına dikkat çekti. Yapay zeka erişilebilirliğinin sağladığı sayısız fırsata rağmen, hileli içerikteki artıştan da sorumludur. Şunları söyledi: "Yapay zeka teknolojisinin kullanılabilirliği sayesinde herkes takas uygulamalarına erişebilir ve sahte hikayeler döndürmek için içeriği değiştirebilir". Sağlam yasal düzenlemelerin ve politikaların olmamasının, seçmenleri yanıltan ve bilgisiz karar riskini yoğunlaştıran yanlış bilgilerin çevrimiçi olarak yayılmasını kolaylaştırdığını da sözlerine ekledi. Potansiyel bir çözüm olarak, kullanıcıları bilgilendirmek için sosyal medya platformlarında yapay zeka veya deepfake içerik için zorunlu kontrollerin gerekliliğini önerdi. "Kullanıcıları yanlış bilgilerden ve deepfake'lerden korumak için platformların içeriğin gerçekliğini doğrulamak için deepfake ve görsel algılama teknolojilerini uygulaması gerekiyor" dedi. Ayrıca, platformlarda kullanıcı doğrulamasının uygulanmasını önerdi. Dünya çapındaki hükümetler de potansiyel önlemler üzerinde düşünmeye başladı. Hindistan'daki yerel teknoloji şirketlerine, 2024 seçimlerinden önce yeni 'güvenilmez' halka açık yapay zeka araçlarını piyasaya sürmeden önce onay almaları tavsiye edildi. Avrupa'nın Avrupa Komisyonu, kendi bölgelerinde faaliyet gösteren platformlar için yapay zeka yanlış bilgilendirme yönergeleri oluşturdu. Komisyonun liderliğini takiben, Meta, Facebook ve Instagram'ın ana şirketi, AB'nin platformlarındaki içerikte üretken yapay zekanın kötüye kullanılmasıyla mücadele etme stratejisini başlattı.
Published At
3/5/2024 4:45:25 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.