Meta 在 AI 生成的图像上施加不可见的水印以遏制滥用
Summary:
Meta，前身为 Facebook，计划为其人工智能 （AI） 工具创建的所有图像添加不可见的水印，以防止滥用。与传统水印不同，这些水印可以抵抗常见的图像处理，并且不容易删除。水印服务最初应用于 Meta AI 生成的图像，后来将扩展到其他使用 AI 生成图像的 Meta 服务。Facebook Messenger和Instagram的“重新构想”功能，允许用户交换人工智能驱动的图像，也将获得此功能。这一变化是对人工智能辅助骗局的激增的回应，这些骗局捏造误导性内容，如网络上流传的虚假视频、音频和图像所见。
Meta 公司前身为 Facebook，宣布计划在通过人工智能 （AI） 创建的所有图像中嵌入隐藏水印，作为其阻止滥用该技术的战略的一部分。根据 12 月 6 日提供的关于 Meta AI（该公司的智能助手）的更新，每个 AI 生成的图像中都将很快加入一个隐形水印，这些图像源于“使用 Meta AI 体验想象”。就像其他 AI 聊天机器人一样，Meta AI 根据用户的输入制作图像和内容;但与同行不同的是，Meta 打算通过拒绝将其资源用作欺骗工具来阻止渎职行为。
传入的不可见水印功能将能够抵御创作者的删除尝试。Meta 表示：“在接下来的几周内，隐藏的水印将与'用 Meta AI 体验想象'相结合，以提高透明度和问责制。深度学习模型将用于将人眼无法察觉的水印贴在通过 AI 工具制作的图片上。但是，可以使用适当的模型来识别隐藏的水印。传统水印低于 Meta 宣称的 AI 水印，称为“使用 Meta AI 想象”，这些水印对通常的图像修改（包括裁剪、颜色更改（亮度或对比度调整）、屏幕截图等）具有鲁棒性。
最初，水印服务将应用于通过 Meta AI 生成的图片，但计划将该功能扩展到其他在图像生成中使用 AI 的服务。除此之外，Meta AI 还为 Facebook Messenger 和 Instagram 推出了“重新构想”功能。此更新促进了用户之间 AI 驱动图像的交换，并将在两个消息传递平台中集成隐藏水印功能。
Dall-E 和 Midjourney 等 AI 平台已经提供了在其内容中加入传统水印的选项。但是，可以通过在外围裁剪图像来轻松删除这些内容。某些 AI 工具甚至可以自动从图像中去除水印，Meta AI 断言其产品无法实现这一壮举。
随着生成式人工智能工具的普及，各种商业机构和名人都谴责了人工智能辅助的诈骗企业。诈骗者利用方便的工具制作伪造的视频、音频和知名人士的图像，然后在网上扩散。
今年5月，一张人工智能编造的图片描绘了美国国防部总部五角大楼附近的爆炸事件，一时导致股市下跌。这张捏造的图片随后被其他新闻出版物分享和传播，从而产生了连锁反应。尽管如此，当地执法部门，包括负责大楼安全的五角大楼部队保护局，驳斥了流传的报道，强调“没有爆炸或事件”。
同月，人权组织国际特赦组织（Amnesty International）被人工智能生成的图像所欺骗，该图像声称显示警察的压迫，随后他们将其用于反对执法的运动。国际特赦组织美洲主任埃里卡·格瓦拉·罗萨斯（Erika Guevara Rosas）承认了这一错误，他说：“我们已经从社交媒体更新中撤回了这些图像，因为我们不希望关于使用人工智能编造图像的争议使对受害者的支持以及他们在哥伦比亚伸张正义的呼吁被搁置一旁。
Published At
12/7/2023 11:50:05 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.