LAION在发现儿童剥削内容后撤回AI数据集
Summary:
德国非营利组织LAION的流行人工智能数据集LAION-5B和LAION-400M在斯坦福大学研究人员发现疑似儿童剥削材料后已被撤回。虽然这些内容不一定会对 AI 模型的输出产生重大影响，但它可能会产生影响，尤其是在重复的情况下。LAION承诺对非法内容采取严格措施，并与组织合作检查并确保其数据集中的链接安全。为确保数据集安全，LAION在重新发布有争议的数据集之前将其删除。
通常用于教育 Stable Diffusion 和 Imagen 等模型的流行人工智能数据集已被其提供商撤回。此前，一项研究显示存在大量疑似剥削儿童的材料。负责该数据集的组织 LAION（大规模人工智能开放网络）是一家来自德国的非营利组织，为大量文本到图像应用程序提供开源 AI 模型和训练集。
12月20日，斯坦福大学互联网天文台网络政策中心的研究人员发布了一份报告，称他们在LAION-5B数据集中发现了3,226个疑似儿童剥削材料的实例。根据网络政策中心的大数据架构师兼首席技术专家David Thiel的说法，第三方已经验证了这些材料的很大一部分。Thiel还表示，这些内容的存在并不一定意味着它将大幅修改在数据集上训练的模型的结果;但是，它可能会产生一些影响。他补充说，重复相同的剥削材料可能特别成问题，因为它强化了不同受害者的图像。
LAION 于 2022 年 3 月推出了 LAION-5B 数据集，包含 58.5 亿个图像文本对。该组织对非法内容保持严格的政策，并与互联网观察基金会等实体合作，检查和确认LAION数据集中超链接的安全性。这些链接是在其社区和相关组织建立的过滤工具的帮助下进行验证的。
LAION发出警告，宣布已经删除了有问题的数据集，包括LAION-5B和LAION-400M。采取此步骤是为了确保数据集在再次使用之前的安全性。
Published At
12/21/2023 9:45:55 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.