IBM Security, Yapay Zeka Destekli 'Ses Hırsızlığını' Ortaya Çıkardı: Canlı Konuşmalara Yönelik Yeni Bir Tehdit
Summary:
IBM Security bilim insanları, canlı konuşmaları fark edilmeden ele geçirmek ve değiştirmek için üretken yapay zekayı kullanan bir 'ses hırsızlığı' tekniği keşfetti. Yapımı kolay sistem, orijinal sesi manipüle edilmiş bir sesle değiştirerek klonlamak için bir kişinin sesinin yalnızca üç saniyesini gerektirir. Teknik, yanlış hesaplara para aktarmak veya canlı haber içeriğini ve siyasi konuşmaları gizlice değiştirmek gibi etik olmayan amaçlar için potansiyel olarak kullanılabilir.
Endişe verici yeni bir gelişmede, IBM Security bilim insanları, yapay zekanın (AI) gücünden yararlanarak canlı tartışmaları devralmak ve değiştirmek için beklenmedik derecede basit bir yöntem ortaya çıkardılar. "Ses hırsızlığı" olarak adlandırılan bu teknik, OpenAI'nin ChatGPT'si ve Meta'nın Llama-2'si gibi deepfake ses teknolojisini de içeren üretken yapay zeka varyantlarına önemli ölçüde bağlıdır.
Ekip, araştırmalarında yapay zekayı, bir telefon görüşmesine benzer şekilde gerçek zamanlı bir konuşmada çift kaynaktan gelen sesi analiz etmeye yönlendirdi. Belirli bir anahtar kelimeyi veya kelime öbeğini tespit ettiğinde, AI, hedeflenen alıcıya iletmeden önce ilgili sesi kurcalamak için müdahale eder.
IBM Security'nin blog notuna göre, test, yapay zekanın bir katılımcının sesini verimli bir şekilde ele geçirmesi ve başka bir kişinin onlardan bankacılık verilerini paylaşmalarını istemesiyle sona erdi. Yapay zeka ayrıca orijinal sesi deepfake sesle değiştirerek alternatif bir hesap numarası iletti. Alıcılar bu saldırıdan habersizdi.
Bu tür saldırıları başlatmak bir tür entrika veya aldatma gerektirecek olsa da, AI sistemini tasarlamak önemli engeller oluşturmadı. Bu kavram kanıtının (PoC) yapımı şaşırtıcı derecede basitti - mikrofondan sesin nasıl çıkarılacağını ve üretken yapay zekaya nasıl iletileceğini anlamak için önemli miktarda zaman harcandı. Geleneksel olarak, belirli ses segmentlerine müdahale etmek ve bunları hareket halindeyken, kendi kendine oluşturulan ses dosyalarıyla değiştirmek için özerk bir sistem tasarlamak, önemli bilgisayar bilimi becerileri gerektirecektir. Bununla birlikte, modern üretken yapay zeka teknolojisi ile süreç daha yönetilebilir hale gelir. Blog ayrıca, bir kişinin sesinin yalnızca üç saniyesinin onu kopyalamak için yeterli olduğunu ve bu tür derin sahtekarlıkların artık ağırlıklı olarak API'ler aracılığıyla yürütüldüğünü açıkladı.
Ses hırsızlığı riski, bireyleri yanlış hesaplara para aktarmaları için kandırmanın ötesine geçer. Araştırmacılar, canlı haber içeriğini değiştirme veya canlı iletilen siyasi konuşmaları değiştirme kapasitesine sahip gizli bir sansür aracı olarak da hizmet edebileceği konusunda uyardılar.
Published At
2/5/2024 8:20:06 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.