OpenAI 从 $1M 赠款项目中提取关键经验教训，促进民主 AI 行为
Summary:
OpenAI 从其 100 万美元的赠款计划中收集了五个关键见解，该计划旨在根据公众意见为 AI 行为建立一个民主程序。经验教训包括需要频繁的输入过程以适应不断变化的观点，确保集体过程捕捉核心价值观，解决数字鸿沟，处理群体内部强烈的分歧观点，以及在代表不同意见的同时平衡共识。注意到公众对未来在政策中使用人工智能的担忧和希望，OpenAI 寻求实施收集到的反馈，并正在建立一个新团队，致力于将公众舆论纳入其人工智能模型的行为中。
OpenAI 从其 100 万美元的赠款计划中确定了五个关键要点，该计划寻求公众对塑造符合人类价值观的 AI 行为的意见。该公司早在 2023 年 5 月就宣布，其计划分配总计 100 万美元的资金，分为 10 笔赠款，每笔 100,000 美元，用于旨在开发一种民主和初步方法来决定人工智能系统指导方针的项目。
在 1 月 16 日的一篇博客文章中，这家人工智能公司详细介绍了赠款接受者如何促进民主技术的创新，该计划教会了他们什么，以及他们计划如何整合新开发的民主技术。
该帖子指出，各个团队以不同的方式收集用户情绪，并指出公众舆论容易频繁变化，这可能决定这些收集过程需要多久发生一次。一个关键的理解是，集体过程必须抓住核心价值观，并对随着时间的推移而发生的任何重大观点变化保持敏感。
研究小组发现，克服数字鸿沟仍然是一个重大障碍，这可能导致有偏见的结果。由于平台的限制以及与理解当地语言或背景相关的复杂性，获得跨越数字鸿沟的参与者是一项任务。
有趣的是，有人指出，在分歧很大的群体内很难达成共识，特别是当少数人对某一特定议题持有根深蒂固的观点时。集体对话团队的一个启示是，少数人坚持不限制人工智能助手在每次会话中响应某些查询，这与多数投票结果产生摩擦。
根据 OpenAI 的说法，当预期结果是单一的时，在包含不同观点的同时平衡统一的一致性是一项艰巨的任务。Inclusive.AI，其中一个团队研究了投票机制，发现传达强烈情感力量和实现平等参与的方法被认为更加民主和公平。
至于对人工智能在未来治理中的作用的担忧，这篇博文提到，一些参与者对人工智能在政策起草中的使用表示担忧，同时呼吁提高透明度。尽管如此，在讨论之后，公众对他们指导人工智能的能力越来越乐观。
OpenAI 计划利用公众的建议，并正在建立一个由研究和工程人员组成的新集体对齐团队。他们被指派构建一个系统，用于收集公众对其模型行为的意见并将其整合到 OpenAI 的产品中。
在其他新闻中，该出版物报道了欺诈性的人工智能“绑架”、价值 2 万美元的机器人厨师以及 Ackman 在 AI Eye 中的 AI 剽窃争议。
Published At
1/17/2024 3:17:40 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.