आईबीएम सुरक्षा ने एआई-संचालित 'ऑडियो-जैकिंग' का खुलासा किया: लाइव वार्तालापों के लिए एक नया खतरा
Summary:
आईबीएम सुरक्षा वैज्ञानिकों ने एक 'ऑडियो-जैकिंग' तकनीक की खोज की है जो जनरेटिव एआई को हाईजैक करने और लाइव वार्तालापों को बदलने के लिए नियोजित करती है। आसान-से-निर्माण प्रणाली को क्लोन करने के लिए किसी व्यक्ति की आवाज के केवल तीन सेकंड की आवश्यकता होती है, मूल ऑडियो को हेरफेर के साथ बदल दिया जाता है। तकनीक का संभावित रूप से अनैतिक उद्देश्यों के लिए इस्तेमाल किया जा सकता है जैसे कि गलत खातों में धन हस्तांतरित करना या लाइव समाचार सामग्री और राजनीतिक भाषणों को गुप्त रूप से संशोधित करना।
एक खतरनाक नए विकास में, आईबीएम सुरक्षा वैज्ञानिकों ने कृत्रिम बुद्धिमत्ता (एआई) की शक्ति का लाभ उठाकर लाइव चर्चाओं को संभालने और बदलने के लिए एक अप्रत्याशित सरल विधि का खुलासा किया है। यह तकनीक, जिसे "ऑडियो-जैकिंग" कहा जाता है, OpenAI के ChatGPT और Meta के Llama-2 जैसे जनरेटिव AI वेरिएंट पर काफी निर्भर करती है, जिसमें डीपफेक ऑडियो तकनीक भी शामिल है।
अपने शोध में, टीम ने एआई को एक फोन कॉल के समान, वास्तविक समय की बातचीत में दोहरे स्रोतों से ऑडियो का विश्लेषण करने का निर्देश दिया। किसी निर्दिष्ट कीवर्ड या वाक्यांश का पता लगाने पर, एआई तब संबंधित ऑडियो के साथ छेड़छाड़ करने के लिए हस्तक्षेप करेगा, इसे इच्छित प्राप्तकर्ता को प्रेषित करने से पहले।
आईबीएम सिक्योरिटी के ब्लॉग नोटेशन के अनुसार, परीक्षण एआई द्वारा एक प्रतिभागी के ऑडियो को जब्त करने के साथ संपन्न हुआ, जबकि एक अन्य व्यक्ति ने उन्हें अपना बैंकिंग डेटा साझा करने के लिए कहा। एआई ने मूल आवाज को डीपफेक ऑडियो के साथ बदल दिया, एक वैकल्पिक खाता संख्या का संचार किया। प्राप्तकर्ता इस हमले से बेखबर थे।
इस तरह के हमलों को शुरू करते समय किसी प्रकार की साजिश या छल की आवश्यकता होगी, एआई सिस्टम को डिजाइन करने से पर्याप्त बाधाएं नहीं आईं। इस प्रूफ-ऑफ-कॉन्सेप्ट (PoC) का निर्माण आश्चर्यजनक रूप से सरल था - माइक्रोफ़ोन से ऑडियो निकालने और इसे जनरेटिव AI तक पहुंचाने के तरीके को समझने में काफी समय व्यतीत किया गया था। परंपरागत रूप से, विशिष्ट ऑडियो सेगमेंट में हस्तक्षेप करने और उन्हें चलते-फिरते, स्व-उत्पन्न ऑडियो फाइलों के साथ प्रतिस्थापित करने के लिए एक स्वायत्त प्रणाली को डिजाइन करना पर्याप्त कंप्यूटर विज्ञान कौशल की मांग करेगा। हालांकि, आधुनिक जनरेटिव एआई तकनीक के साथ, प्रक्रिया अधिक प्रबंधनीय हो जाती है। ब्लॉग ने आगे स्पष्ट किया कि किसी व्यक्ति की आवाज के सिर्फ तीन सेकंड ही इसकी नकल करने के लिए पर्याप्त हैं और इस तरह के डीपफेक अब मुख्य रूप से एपीआई के माध्यम से निष्पादित किए जाते हैं।
ऑडियो-जैकिंग का जोखिम व्यक्तियों को गलत खातों में धन हस्तांतरित करने में धोखा देने से परे है। शोधकर्ताओं ने चेतावनी दी है कि यह लाइव समाचार सामग्री को बदलने या लाइव-प्रसारित राजनीतिक भाषणों को संशोधित करने की क्षमता के साथ एक गुप्त सेंसरशिप उपकरण के रूप में भी काम कर सकता है।
Published At
2/5/2024 8:20:06 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.