控制有害人工智能：呼吁加强政府支持的系统和计算治理
Summary:
研究人员认为，控制有害的人工智能（AI）可能需要不断增强强大的政府支持的人工智能系统。他们的研究提出，需要控制对重要人工智能资源的访问，因此需要实施“计算治理”。有效限制恶意使用人工智能可能需要在硬件中加入“终止开关”，从而远程终止非法操作。他们还警告说，控制去中心化计算可能带来的复杂性。研究人员认为，社会可能需要明智地使用更强大、可治理的计算来应对来自不可治理的计算系统的新风险。
对有害人工智能（AI）的控制可能在于在政府指导下不断增强人工智能。这一推论是由一组研究人员在他们最新的论文中得出的，题为“人工智能的计算能力然后是治理”。这项研究涉及来自OpenAI、剑桥、牛津等机构的知识分子，旨在探索与人工智能的立法和发展有关的直接和潜在问题。
该论文的主要论点强调了未来通过控制操作和建模所需的硬件来控制对关键人工智能系统的访问的潜在需求。正如研究人员所解释的那样，政策制定者可以利用计算能力来实现有益的结果，遏制不负责任的人工智能开发和使用，并提供监管可见性。在这里，“计算”是指 AI 开发所需的重要硬件，包括 GPU 和 CPU。研究人员建议切断对这些来源的访问，这是避免潜在人工智能相关危害的最佳方法。这意味着政府将采取措施来监督任何对高级人工智能开发至关重要的硬件的创建、销售和功能。
在某些方面，“计算治理”已经在全球范围内实践。例如，美国限制向中国等国家销售通常用于人工智能训练的特定GPU型号。根据这项研究，有效限制人工智能的恶意使用需要制造商在硬件中包含“终止开关”。这样的措施将使政府能够远程终止非法的人工智能训练工作。尽管如此，学者们警告说，这种治理措施伴随着与隐私、经济影响和权力集中相关的固有风险。例如，美国的硬件监控可能会违反白宫最近颁布的人工智能权利法案，该指南确保了公民的数据保护权利。
除了这些担忧之外，研究人员还指出，“通信效率”训练的新兴进展可能会转向用于建模、构建和操作的去中心化计算。这种趋势可能会使政府识别和终止非法培训机构的任务复杂化。研究人员认为，这种可能性可能使政府别无选择，只能采取积极的策略来打击非法使用人工智能。根据他们的判断，“社会将不得不及时、明智地使用更强大、可治理的计算来防御不可治理的计算带来的新风险。
Published At
2/16/2024 10:12:59 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.