人工智能系统中的新神经特征可能会解决人工智能幻觉的问题
Summary:
人工智能（AI）幻觉是一个主要的行业问题，可以通过新发现的神经特征来解决。这些幻觉是在大型 AI 语言模型训练过程中产生的错误数据。Anthropic的首席执行官Dario Amodei强调，这些神经特征允许干预和改变人工智能系统。该公司正在研究调整这些功能以修改人工智能行为的影响。此外，根据Amodei的说法，由于合成数据集的出现，人工智能开发的进展不再主要取决于数据，而是取决于人才。
新发现的人工智能（AI）系统神经功能方面可能会解决一个被称为AI幻觉的持续问题。这种幻觉是当更大的语言模型被训练为生成式人工智能系统时产生的意想不到的结果。这些模型有时会生成新颖的（尽管不正确）数据，这些数据以前不是其数据集的一部分。然而，这些新的神经特征可能是解决这个问题的方法，Anthropic的联合创始人兼首席执行官Dario Amodei说。
在 2024 年巴黎 Viva Tech 活动的演讲中，Amodei 表示，当代人工智能系统由数亿个神经元组成。他强调了在他们的模型中发现了3000万个特征，包括那些与安全漏洞或对特定群体的偏见相关的特征。现在已经获得了干预和改变这些特征的能力。
幻觉的问题在于，人工智能进程没有意识到它们的输出是不正确的。但Amodei保证，这些新功能可能会终结AI幻觉。他断言，“这项新发现的主要优势包括减少人工智能幻觉的发生。
Anthropic目前正在进行研究，以探索修改内部特征如何改变AI行为。他们设法创建了一个演示模型，其中一项独特的功能使人工智能高度专注于金门大桥。5 月 23 日，Anthropic 在一篇 X 帖子中表达了信心，“在 Claude 中识别和修改这些功能的能力增强了我们开始理解广泛的语言模型如何真正运作的信心。
受人尊敬的人工智能开发公司 Anthropic 于 5 月初将其 AI 聊天机器人 Claude 引入欧洲市场。 自 5 月 14 日起，Claude 可通过其 Web 应用程序和 iOS 应用程序使用，支持多种欧洲语言，例如法语、德语、西班牙语和意大利语。
根据 Amodei 的说法，人工智能的增长依赖于人才，而不是数据。数据的稀缺以前阻碍了人工智能的发展，但合成数据集的出现已经将主要障碍转移到了开发人员技能的短缺上。合成数据显示出人工智能可扩展性的前景，但Amodei警告说，合成数据和真实世界数据之间的比例要平衡，因为过多的合成数据可能会导致数据集变弱、不切实际。
自 2024 年初以来，对人工智能的投资大幅上升，埃隆·马斯克 （Elon Musk） 的公司于 5 月 27 日获得了高达 60 亿美元的 B 轮融资。这笔资金旨在在年底前将其 Grok 聊天机器人定位为 ChatGPT 的竞争对手。
Published At
5/29/2024 12:49:21 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.