NIST就人工智能系统的安全和道德开发征求公众意见
Summary:
美国国家标准与技术研究院 （NIST） 发布了信息请求 （RFI），以收集公众对人工智能 （AI） 安全开发和应用的意见。在拜登总统的行政命令的指导下，NIST正在寻求有关生成式人工智能风险管理的见解，以及减少人工智能产生的错误信息的方法。该研究所还在探索红队（一种用于识别系统漏洞的策略）的有效领域。该请求是NIST更广泛计划的一部分，该计划旨在支持AI社区负责任和可靠地开发AI系统，从而升级以人为本的AI安全和治理方法。
美国商务部国家标准与技术研究院 （NIST） 发布了一份信息请求 （RFI），作为其根据最新行政命令关于安全和道德开发和实施人工智能 （AI） 的职责的一部分。该研究所已在2月2日之前启动了公众意见征询程序，以收集用于测试人工智能系统安全性的关键见解。美国商务部长吉娜·雷蒙多（Gina Raimondo）提到，乔·拜登（Joe Biden）总统10月份的行政指令指示NIST制定指导方针，鼓励共识标准并为AI评估建立测试环境，这推动了这一举措。该蓝图旨在帮助人工智能行业安全、可靠和合乎道德地发展人工智能。
NIST的信息请求邀请人工智能公司和公众就生成式人工智能的风险管理和减少人工智能引起的错误信息风险提供见解。生成式人工智能可以根据模棱两可的提示创建文本、图像和视频，这引发了人们的兴奋和担忧。人们担心失业、选举骚乱以及技术超出人类能力的潜力，这可能会产生灾难性的后果。
RFI 还寻求有关在 AI 风险检查和建立最佳实践期间执行红队的最佳领域的信息。“红队”一词源自冷战模拟，用于指代一种称为“红队”的团体模仿可以想象的对抗性情况或攻击以发现系统、流程或组织的弱点和漏洞的方法。长期以来，这种技术一直用于网络安全以检测新威胁。值得一提的是，美国有史以来第一次公开的红队活动于8月在AI Village、SeedAI和Humane Intelligence安排的网络安全会议上举行。
NIST在11月宣布了一个新的人工智能联盟，并发布了一份官方通知，要求申请具有相关资格的申请，这是一个重要的里程碑。该联盟的目的是制定和执行具体的政策和措施，以确保美国政策制定者选择以人为本的人工智能安全和管理方法。
Published At
12/20/2023 11:46:51 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.