英国人工智能安全研究所扩展到美国，公布安全测试结果
Summary:
英国人工智能 （AI） 安全研究所正在旧金山开设其第一个国际办事处，旨在利用技术人才并与领先的人工智能实验室合作。此次扩张旨在巩固与美国重要参与者的关系，促进全球人工智能安全。该研究所还公布了对五个先进人工智能模型进行安全测试的结果，显示出应对网络安全挑战的潜力，以及在化学和生物学方面的深厚知识，但也显示出对简单越狱的高度脆弱性，并且需要人类监督才能完成复杂的任务。
为了扩大其全球影响力，英国人工智能（AI）安全研究所将在美国设立海外分支机构。英国技术大臣米歇尔·多尼兰（Michelle Donelan）于5月20日爆料称，旧金山已被选为首个海外办事处的所在地，该办事处将于今年夏天开业。该研究所在旧金山的战略定位为英国提供了一个机会，可以利用湾区丰富的技术人才，并与位于伦敦和旧金山之间最大的人工智能实验室之一合作。该研究所表示希望巩固与美国重要参与者的关系，鼓励面向公共利益的全球人工智能安全。总部位于伦敦的人工智能安全研究所拥有 30 名员工，他们准备扩展和获取更多知识，主要是关于尖端人工智能模型的风险评估。Donelan认为，此次扩建证明了英国在人工智能安全方面的开创性和战略洞察力。她加强了该国在全球范围内研究人工智能风险和潜在利益的承诺，加强了与美国的联系，并为其他国家深入研究其专业知识铺平了道路。该公告是继 2023 年 11 月在伦敦举行的重要人工智能安全峰会之后发布的。该峰会是首次此类峰会，重点关注全球范围内的人工智能安全。全球知名领导人，如Microsoft总裁布拉德·史密斯、OpenAI 首席执行官山姆·奥特曼、谷歌和 DeepMind 首席执行官德米斯·哈萨比斯、埃隆·马斯克，以及来自美国和中国的领导人，都为此次活动增光添彩。英国还披露了该研究所之前对向公众开放的五个先进人工智能模型的一些安全测试结果。这些模型是匿名的，结果代表了模型能力的一瞥，而不是认为它们没有风险或危险。一些结果显示，虽然一些模型有能力解决网络安全问题，但它们正在努力解决更具挑战性的问题。一些模型在博士阶段表现出对化学和生物学的深入了解。然而，所有被检查的模型都显示出对简单越狱的高度敏感性，并且需要人工监督才能完成复杂、耗时的任务。该研究所所长伊恩·霍格格（Ian Hogearth）断言，这些评估将有助于对模型能力进行实证评估，提醒我们人工智能安全仍然是一个新兴和发展中的领域，这些结果仅代表了AISI开创的全球评估方法的一部分。
Published At
5/20/2024 1:00:21 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.