OpenAI 引入“准备”团队以应对潜在的 AI 灾难
Summary:
人工智能研发公司OpenAI宣布了其新计划“准备”，重点关注潜在的人工智能威胁。该团队由亚历山大·马德里（Aleksander Madry）领导，将监测、评估、预测和最小化人工智能带来的潜在灾难性风险。主要关注领域将是化学、生物、放射性和核威胁、个性化说服、网络安全和自主复制适应。与此同时，OpenAI 还发起了 AI 准备挑战赛，为排名靠前的提交者提供 25,000 美元的 API 积分。该公司还正在征集来自各个技术学科的候选人加入新团队。
OpenAI 是负责开发和研究人工智能技术（包括 ChatGPT）的组织，它正在启动一项新的战略计划，以识别和解决与 AI 相关的各种危险。该组织于 10 月 25 日透露，它正在组建一个专门的团队，以识别、评估、主动预测和防范因应用人工智能技术而导致的潜在灾难性危害。OpenAI 的这个重点部门被命名为“准备”部门，将主要专注于与化学、生物、放射性和核危害相关的潜在人工智能风险，以及个性化说服、网络安全以及自主复制和进化。在亚历山大·马德里（Aleksander Madry）的带领下，准备人员将努力确定前沿人工智能系统在滥用时可能带来的危险程度，以及这些系统是否可以被获得被盗人工智能模型权重的恶意个人有效使用。OpenAI 表示，“前沿 AI 模型具有超越当前最复杂模型能力的潜力，有望极大地造福人类。然而，该公司也承认这些模型带来的风险不断增加。该公司进一步阐述说：“我们认真对待与人工智能相关的每一个安全风险，从当前的系统到可以想象的超级智能高峰。为了确保复杂人工智能系统的安全，我们正在完善应对灾难性风险的策略。OpenAI 在他们的博客文章中解释说，他们目前正在寻找来自不同技术背景的技术人员加入准备团队。此外，他们还启动了 AI 准备挑战赛，以鼓励防止灾难性滥用的举措，前 10 名参赛者将获得 25,000 美元的 API 积分。值得注意的是，该公司早在 2023 年 7 月就透露了成立一个团队以应对潜在人工智能风险的计划。人们一再强调与人工智能技术相关的危险，并担心人工智能可能会超越人类的智力。尽管意识到了这些风险，但OpenAI等公司仍在继续积极推进人工智能技术，从而加剧了人们的担忧。2023 年 5 月，非营利组织人工智能安全中心发布了一封公开信，强调人工智能风险，敦促采取集体行动，降低人类因人工智能而灭绝的风险，以及流行病和核战争等其他大规模威胁。
Published At
10/27/2023 10:03:00 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.