OpenAI 推出“准备”计划，以应对与 AI 相关的风险并减轻潜在威胁
Summary:
OpenAI 正在启动一项名为“准备”的计划，以评估和减轻与 AI 相关的广泛风险。该计划将重点关注潜在的人工智能威胁，包括化学、生物、放射性和核威胁、个人说服力、网络安全和自主复制。在亚历山大·马德里（Aleksander Madry）的领导下，该团队将调查滥用前沿人工智能系统的危险。OpenAI 还发起了 AI 准备挑战赛，旨在防止灾难性的滥用，顶级提交者将获得 25,000 美元的 API 积分。
OpenAI 是一家负责开发 ChatGPT 等人工智能技术的公司，该公司正在启动一个项目，旨在评估与 AI 相关的各种潜在风险。OpenAI 于 10 月 25 日透露，现在正在组建一个独特的团队，其主要重点是研究、预测和减轻因使用人工智能技术而可能产生的潜在压倒性危险。这个名为“准备”的团队将密切关注潜在的人工智能风险，包括化学、生物、放射性和核威胁、个人说服力、网络安全以及自发复制和适应。
在亚历山大·马德里（Aleksander Madry）的指导下，该团队的任务是了解关键问题，例如高级人工智能系统在使用不当时可能造成的危险程度，或者在发生盗窃时，它是否会被有害元素部署。OpenAI分享道：“前沿人工智能模型有可能造福全球人类。同样，他们坚持认为，这些人工智能模型也可能带来“越来越严重的风险”。
OpenAI在阐述公司的观点时表示：“我们承认并认真考虑与人工智能相关的所有形式的安全风险，从今天的系统到超级智能的极端......为了确保高性能人工智能系统的安全，我们正在改进应对灾难性风险准备的方法。
除了创建新部门外，OpenAI 还发起了一项旨在防止灾难性滥用 AI 的挑战，承诺向前 10 名最佳提交者提供 25,000 美元的 API 积分。该公司还宣布正在寻找来自不同技术背景的人才，以成为准备团队的一员。
OpenAI 早些时候曾暗示将在 2023 年 7 月成立一个专注于解决潜在 AI 危害的团队。传统上，人们经常指出与人工智能相关的潜在危险，这引发了人们对这些人工智能系统有朝一日可能超越人类智能的担忧。尽管有这些担忧，像OpenAI这样的公司还是积极追求新的人工智能技术开发，无意中引发了更多的怀疑和焦虑。
2023 年 5 月，非营利组织 AI 安全中心发表了一封公开信，强调了 AI 风险。该中心认为，人工智能带来的风险应该在全球范围内得到认真解决，以及其他社会规模的风险，如流行病和核战争。
Published At
10/27/2023 10:03:56 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.