OpenAI 将在 CEO 复职后推出用于评估 AI 风险的“准备框架”
Summary:
人工智能 （AI） 开发商 OpenAI 计划推出“准备框架”。该计划包括一个专门的团队，负责评估潜在风险。该战略旨在增加一个制衡系统，以防止高级模型可能带来的风险。该计划包括一个流程，在该流程中，安全报告被审查，然后送交公司层面的审查，新框架允许董事会撤销安全决策。在此之前，OpenAI经历了一段动荡时期，首席执行官Sam Altman被解雇，随后又恢复了职务。随着公众对人工智能的兴趣和担忧日益浓厚，包括 OpenAI 在内的领先开发商已经建立了自我监管前沿论坛，拜登政府概述了新的人工智能安全标准。
人工智能 （AI） 开发商 OpenAI 最近透露了推出“准备框架”的计划。该策略涉及组建一个专门的团队，旨在评估和预测潜在风险。该公司最近于 12 月 18 日发表的博客文章指出，这个“准备团队”将连接 OpenAI 的安全和政策部门。该系统以制衡的方式运作，预计将作为抵御日益复杂的模型引发的迫在眉睫的“灾难性风险”的保障。OpenAI坚称，它只会在安全保证下推出其技术。新提出的战略涉及顾问小组审查安全报告，然后将其转发给公司高管和OpenAI董事会进行审查。尽管高管有权做出最终裁决，但最新提案赋予董事会推翻安全决策的灵活性。此举是 OpenAI 在 11 月经历的动荡的后果，其标志是 Sam Altman 突然被解雇并随后恢复首席执行官一职。在 Altman 重新加入公司后，OpenAI 公布了其新任命的董事会，包括 Bret Taylor（主席）、Larry Summers 和 Adam D'Angelo。鉴于 2022 年 11 月推出的 ChatGPT 等，公众对人工智能的兴趣飙升，同时对其对社会潜在危害的担忧也在增加。早在 7 月，OpenAI、Microsoft、Google 和 Antropic 等顶级 AI 开发人员就推出了前沿论坛。该论坛的重点是监督在打造负责任的人工智能时引入的自我监管。拜登政府还在 10 月推出了一项行政命令，为开发和执行先进模型的组织规定了新的安全限制。在宣布这项行政命令之前，领先的人工智能开发人员被召集到白宫，承诺致力于创建安全透明的人工智能模型，OpenAI是与会者之一。
Published At
12/19/2023 11:36:24 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.