人工智能专家在安全问题中团结起来加强对举报人的保护
Summary:
知名人工智能公司的前员工正在倡导加强举报人保护，以便公开表达对人工智能发展的风险相关担忧。“警告人工智能的权利”请愿书旨在促进一种开放性，欢迎批评，并为强调严重人工智能风险的举报人提供法律保护。该活动反映了人们对新人工智能模型的安全措施的日益担忧，尤其是那些涉及人工智能的模型。
知名人工智能公司的前员工正在倡导在这些公司内部加强举报人保护措施，以提高复杂人工智能系统发展中潜在风险的透明度。6 月 4 日，13 名前 OpenAI （ChatGPT）、Anthropic （Claude） 和 DeepMind （Google） 的专业人士发起了一份题为“警告 AI 的权利”的请愿书。这个杰出的团队还包括 Yoshua Bengio、Geoffrey Hinton 和 Stuart Russell 等 AI 名人。他们的目标是说服领先的人工智能公司允许其员工在内部和更广泛的公众中分享对人工智能风险的担忧。
OpenAI的前雇员、该活动的支持者威廉·桑德斯（William Saunders）表示，在处理潜在的危险技术创新时，必须有一个机制向独立专家、政府当局和公众披露风险信息。他观察到，目前，那些对前沿人工智能系统和相关风险有最深刻理解的人可能会因为担心反弹和严格的保密合同而犹豫不决。
该提案提出了四项关键建议。首先是撤销与风险相关的非贬低条款，使公司不能因为员工表达对人工智能风险的担忧而封口或惩罚他们。接下来，他们建议建立匿名渠道，让个人表达他们对人工智能风险的担忧，从而营造一种欢迎公开批评的氛围。他们最后的呼吁是为举报人提供法律保护，确保公司不会对冒着严重人工智能风险的员工进行报复。桑德斯将这些原则描述为一种“积极主动的方法”，它将鼓励人工智能公司创造不仅有益而且安全的人工智能。
该活动源于人们对人工智能实验室在开发新模型时如何忽视安全措施的担忧，特别是在处理人工智能（AGI）时，该人工智能旨在开发模仿人类智能并可以独立学习的软件。OpenAI 的前员工 Daniel Kokotajlo 表示，他决定退出公司是因为他对公司负责任地处理 AGI 目的失去了信心。Kokotajlo认为，“快速行动，打破常规”的文化方法与AGI一样强大且被误解的技术不相容。
5月28日，OpenAI前董事Helen Toner在Ted AI播客中透露，有传言称OpenAI首席执行官Sam Altman因向董事会隐瞒关键信息而被公司解雇。
Published At
6/4/2024 4:59:35 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.