OpenAI 和 Microsoft 合作挫败利用 AI 工具的国有网络攻击
Summary:
OpenAI和Microsoft合作挫败了五起利用大型语言模型的国家附属网络攻击，包括OpenAI的GPT-4。这些攻击与中国、伊朗、朝鲜和俄罗斯有关，旨在利用人工智能进行各种网络活动，促使OpenAI加强其防御措施。尽管 OpenAI 和其他组织一直在努力解决 AI 网络安全问题，但威胁仍然存在，导致 200 多个组织加入或制定专注于促进 AI 安全和解决网络安全问题的倡议。
流行的ChatGPT软件背后的组织OpenAI与主要投资者Microsoft合作，成功抵御了五次政府支持的网络攻击。这些黑客与包括俄罗斯军事情报部门、伊朗革命卫队以及中国和朝鲜政府在内的一系列外国势力有联系，旨在使用大型语言模型（LLM）来磨练他们的技能，这是一种基于人工智能的复杂系统，可以通过分析大量的文本数据来产生令人印象深刻的类似人类的响应。
OpenAI认为网络入侵来自两个中国组织，分别是木炭台风和鲑鱼台风。其他渗透企图通过深红沙尘暴与伊朗有关，通过翡翠雨夹雪与朝鲜有关，通过森林暴风雪与俄罗斯有关。根据 OpenAI 的说法，这些组织试图将 GPT-4 用于各种任务，包括企业和网络安全工具研究、脚本生成、代码调试、编排网络钓鱼活动、逃避恶意软件检测、翻译复杂的技术论文以及探索卫星通信和雷达技术。发现这些活动后，有关账户被暂停。
这一发现是在OpenAI全面禁止国家支持的黑客网络使用人工智能产品之际发现的。尽管成功地挫败了这些特定的尝试，但该公司认识到防止每一次潜在的滥用都存在持续的困难。
在引入 ChatGPT 后，AI 生成的深度伪造和欺诈事件增加，立法者加强了对生成式 AI 开发人员的监控。为了支持人工智能网络安全领域的进步，OpenAI 于 2023 年 6 月宣布了一项 100 万美元的赠款计划，旨在加强和量化基于人工智能的网络安全解决方案的影响力。
尽管采取了这些防御措施，并不断努力避免 ChatGPT 生成有害或不合适的内容，但黑客仍然找到了克服这些障碍的方法，操纵聊天机器人生成此类内容。
包括OpenAI，Microsoft，Anthropic和Google在内的200多个组织最近与拜登政府合作成立了AI安全研究所和美国AI安全研究所联盟（AISIC）。这项集体努力旨在促进人工智能的安全发展，打击人工智能产生的深度伪造，并应对网络安全挑战。这一举措是在乔·拜登总统 2023 年 10 月下旬发布专注于人工智能安全的行政命令后成立的美国人工智能安全研究所 （USAISI） 之后推出的。
Published At
2/15/2024 11:46:18 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.