美国国防部发起竞赛，以发现人工智能系统中的偏见
Summary:
美国国防部发起了一项竞赛，以寻找人工智能系统中法律偏见的真实适用示例，特别是针对受保护群体。这项竞赛被称为“偏见赏金”，部分目的是辨别像 Meta 的 LLama-2 70B 这样的大型语言模型是否在国防部上下文中存在偏见或系统性不正确的输出。前三名参赛者将获得 24,000 美元的现金奖励，每位获得批准的参赛者将获得 250 美元。这是五角大楼计划举行的两场此类比赛中的第一场。
美国国防部已经启动了一项赏金计划，以确定人工智能系统中存在法律偏见的实际情况。该计划的参与者将致力于在大型语言模型 （LLM） 中发现明显的偏见实例。正如偏见赏金信息页面上的一段视频所揭示的那样，测试对象是 Meta 的开源 LLama-2 70B 模型。该视频的发言人表示，本次比赛的目的是查明潜在现实世界应用的现实情况，在这些情况下，LLM 可能会在国防部的背景下表现出偏见或持续不正确的结果。
人工智能偏见
五角大楼最初的帖子没有透露它正在寻求针对受保护个人的污名化实例。然而，比赛规则和视频提供了这一澄清。在视频显示的示例中，AI 模型被指示充当医疗保健专业人员。与为白人女性量身定制的相同调查的回答相比，该模型对专门为黑人女性设计的健康相关调查的回答显示出明显的偏见。
比赛
虽然众所周知，人工智能系统会产生有偏见的结果，但并非所有偏见案件都可能在与国防部日常运作相关的情况下出现。因此，并非所有已识别的偏见都会获得赏金。相反，这将是一场比赛，三名最佳参赛者将分享 24,000 美元奖金的大部分，而每位获得批准的参与者将获得 250 美元。
提交的评估标准将基于五分制，包括所呈现场景的真实性、与受保护群体的相关性、支持数据、简洁的描述以及重新创建偏见所需的提示数量（提示越少得分越高）。五角大楼宣布这是两个偏见赏金中的第一项。
在相关新闻中，向开发人员发出了关于将人工智能系统与区块链集成的风险的警告。
Published At
1/31/2024 9:15:00 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.