IBM Security 揭示了 AI 驱动的“音频劫持”：对实时对话的新威胁
Summary:
IBM Security 科学家发现了一种“音频劫持”技术，该技术采用生成式 AI 在未被发现的情况下劫持和更改实时对话。这个易于构建的系统只需要三秒钟的人声就可以克隆它，用操纵的音频替换原始音频。该技术可能被用于不道德的目的，例如将资金转入不正确的账户或秘密修改实时新闻内容和政治演讲。
在一项令人震惊的新发展中，IBM 安全科学家发现了一种意想不到的简单方法，可以通过利用人工智能 （AI） 的力量来接管和改变实时讨论。这种被称为“音频劫持”的技术在很大程度上依赖于生成式 AI 变体，例如 OpenAI 的 ChatGPT 和 Meta 的 Llama-2，还包括 deepfake 音频技术。
在他们的研究中，该团队指导人工智能在实时对话中分析来自双源的音频，类似于电话。在检测到指定的关键字或短语时，人工智能会进行干预以篡改相关音频，然后再将其传输给预期的接收者。
根据 IBM Security 的博客符号，测试结束时，AI 有效地捕获了参与者的音频，而另一个人则要求他们分享他们的银行数据。人工智能进一步用深度伪造音频取代了原始声音，传达了一个备用帐号。接收者对这次攻击视而不见。
虽然发动此类攻击需要某种形式的诡计或欺骗，但设计人工智能系统并没有造成实质性的障碍。这种概念验证 （PoC） 的构建非常简单——花费了大量时间来了解如何从麦克风中提取音频并将其传送到生成式 AI。传统上，设计一个自主系统来干预特定的音频片段，并用移动的、自行生成的音频文件替换它们，将需要大量的计算机科学技能。然而，随着现代生成式人工智能技术的出现，这一过程变得更加易于管理。该博客进一步澄清说，一个人的声音只有三秒钟就足以复制它，这种深度伪造现在主要通过API执行。
音频劫持的风险不仅限于欺骗个人将资金转入错误账户。研究人员警告说，它也可能作为一种秘密审查工具，能够改变实时新闻内容或修改实时传输的政治演讲。
Published At
2/5/2024 8:20:06 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.