IBM Security تكشف عن "رفع الصوت" المدعوم الذكاء الاصطناعي: تهديد جديد للمحادثات الحية
Summary:
اكتشف علماء IBM Security تقنية "الاصطياد الصوتي" التي تستخدم الذكاء الاصطناعي التوليدية لاختطاف وتغيير المحادثات الحية دون أن يتم اكتشافها. يتطلب النظام سهل البناء ثلاث ثوان فقط من صوت الشخص لاستنساخه ، واستبدال الصوت الأصلي بصوت تم التلاعب به. يمكن استخدام هذه التقنية لأغراض غير أخلاقية مثل تحويل الأموال إلى حسابات غير صحيحة أو تعديل محتوى الأخبار الحية والخطب السياسية سرا.
في تطور جديد مثير للقلق، اكتشف علماء IBM Security طريقة بسيطة غير متوقعة لتولي المناقشات الحية وتغييرها من خلال الاستفادة من قوة الذكاء الاصطناعي (الذكاء الاصطناعي). تعتمد هذه التقنية ، التي يطلق عليها "رفع الصوت" ، بشكل كبير على متغيرات الذكاء الاصطناعي التوليدية ، مثل ChatGPT من OpenAI و Llama-2 من Meta ، بما في ذلك أيضا تقنية الصوت المزيف العميق.
في بحثهم ، وجه الفريق الذكاء الاصطناعي لتحليل الصوت من مصادر مزدوجة في محادثة في الوقت الفعلي ، أقرب إلى مكالمة هاتفية. عند اكتشاف كلمة رئيسية أو عبارة محددة ، سيتدخل الذكاء الاصطناعي بعد ذلك للعبث بالصوت ذي الصلة ، قبل إرساله إلى المستلم المقصود.
وفقا لتدوين مدونة IBM Security ، انتهى الاختبار بالاستيلاء على صوت المشارك بكفاءة الذكاء الاصطناعي بينما طلب منه شخص آخر مشاركة بياناته المصرفية. استبدل الذكاء الاصطناعي الصوت الأصلي بصوت التزييف العميق ، وتوصيل رقم حساب بديل. كان المستلمون غافلين عن هذا الهجوم.
في حين أن شن مثل هذه الهجمات يتطلب شكلا من أشكال المكائد أو الخداع ، فإن تصميم نظام الذكاء الاصطناعي لم يشكل عقبات كبيرة. كان بناء إثبات المفهوم هذا (PoC) بسيطا بشكل مثير للصدمة - تم إنفاق قدر كبير من الوقت على فهم كيفية استخراج الصوت من الميكروفون وتسليمه إلى الذكاء الاصطناعي التوليدية. تقليديا ، يتطلب تصميم نظام مستقل للتدخل في مقاطع صوتية محددة واستبدالها بملفات صوتية ذاتية الإنشاء أثناء التنقل مهارات كبيرة في علوم الكمبيوتر. ومع ذلك ، مع التكنولوجيا الذكاء الاصطناعي التوليدية الحديثة ، تصبح العملية أكثر قابلية للإدارة. أوضحت المدونة كذلك أن ثلاث ثوان فقط من صوت الشخص كافية لتكرارها ويتم الآن تنفيذ مثل هذه التزييف العميق في الغالب عبر واجهات برمجة التطبيقات.
يمتد خطر اختطاف الصوت إلى ما هو أبعد من خداع الأفراد لتحويل الأموال إلى حسابات غير صحيحة. وقد حذر الباحثون من أنه قد يكون أيضا بمثابة أداة رقابة سرية مع القدرة على تغيير محتوى الأخبار الحية أو تعديل الخطب السياسية التي يتم بثها على الهواء مباشرة.
Published At
2/5/2024 8:20:06 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.