Meta impone marcas de agua invisibles en las imágenes generadas por IA para frenar el uso indebido
Summary:
Meta, la compañía anteriormente conocida como Facebook, planea agregar marcas de agua invisibles a todas las imágenes creadas con su herramienta de inteligencia artificial (IA) para evitar el uso indebido. A diferencia de las marcas de agua tradicionales, estas resistirán las manipulaciones comunes de la imagen y no se pueden eliminar fácilmente. Inicialmente aplicado a las imágenes producidas por Meta AI, el servicio de marca de agua se extenderá más tarde a otros servicios de Meta que utilizan IA para la generación de imágenes. La función "reimaginar" para Facebook Messenger e Instagram, que permite a los usuarios intercambiar imágenes impulsadas por IA, también recibirá esta función. Este cambio responde al aumento de las estafas asistidas por IA que fabrican contenido engañoso, como se ve con videos, audios e imágenes falsos que han circulado por la web.
Meta, la empresa antes conocida como Facebook, ha anunciado planes para incrustar marcas de agua ocultas en todas las imágenes creadas a través de la inteligencia artificial (IA), como parte de su estrategia para frustrar el uso indebido de la tecnología. Según una actualización proporcionada el 6 de diciembre sobre Meta AI, el asistente inteligente de la empresa, pronto se incorporará una marca de agua invisible en cada imagen generada por IA derivada de la "experiencia de imagina con Meta AI". Al igual que otros chatbots de IA, Meta AI fabrica imágenes y contenido en función de las aportaciones de los usuarios; sin embargo, a diferencia de sus homólogos, Meta tiene la intención de desalentar la malversación negándose a permitir que su recurso sea explotado como una herramienta para el engaño.
La función de marca de agua invisible entrante será resistente a los intentos de eliminación por parte de los creadores. "En las próximas semanas, se integrará una marca de agua oculta con la 'experiencia de IA de Meta' para mejorar la transparencia y la responsabilidad", ha declarado Meta. Se utilizará un modelo de aprendizaje profundo para colocar marcas de agua, indetectables para el ojo humano, en imágenes fabricadas a través de la herramienta de IA. Sin embargo, las marcas de agua ocultas se pueden identificar con un modelo apropiado. Las marcas de agua convencionales están por debajo de las proclamadas marcas de agua de IA de Meta, conocidas como "imagine with Meta AI", que son robustas frente a las modificaciones habituales de la imagen, como el recorte, las alteraciones de color (ajustes de brillo o contraste), las capturas de pantalla y mucho más.
Inicialmente, el servicio de marca de agua se aplicará a las imágenes producidas a través de Meta AI, pero hay planes para extender la función a otros servicios que emplean IA en la generación de imágenes. Además de esto, Meta AI ha lanzado la función 'reimaginar' para Facebook Messenger e Instagram. Esta actualización facilita el intercambio de imágenes impulsadas por IA entre los usuarios e integrará la función de marca de agua oculta dentro de ambas plataformas de mensajería.
Las plataformas de IA, como Dall-E y Midjourney, ya ofrecen la opción de incorporar marcas de agua tradicionales en su contenido. Sin embargo, estos se pueden eliminar fácilmente recortando la imagen periféricamente. Ciertas herramientas de IA pueden incluso erradicar las marcas de agua de las imágenes automáticamente, una hazaña que Meta AI afirma que será poco práctica con su producto.
Tras la popularización de las herramientas de IA generativa, diversos organismos empresariales y celebridades han denunciado las estafas asistidas por IA. Los estafadores explotan herramientas útiles para producir videos, audios e imágenes falsificados de personas reconocidas, que luego propagan por la web.
En mayo, una imagen inventada por IA que mostraba una explosión cerca del Pentágono, sede del Departamento de Defensa de Estados Unidos, provocó momentáneamente una caída en el mercado de valores. Esta imagen fabricada fue posteriormente compartida y difundida por otras publicaciones de noticias, lo que provocó un efecto en cascada. Sin embargo, las fuerzas del orden locales, incluida la Agencia de Protección de la Fuerza del Pentágono, responsable de la seguridad del edificio, refutaron los informes que circularon, enfatizando que no había habido "ninguna explosión o incidente".
Ese mismo mes, Amnistía Internacional, una organización de derechos humanos, fue engañada por una imagen generada por IA que supuestamente mostraba la opresión policial, que posteriormente utilizaron para campañas contra las fuerzas del orden. Erika Guevara Rosas, directora para las Américas de Amnistía, reconoció el error y dijo: "Nos hemos retractado de las imágenes de las actualizaciones de las redes sociales, ya que no queremos que la disputa sobre el uso de imágenes inventadas por IA deje de lado el apoyo a las víctimas y sus pedidos de justicia en Colombia".
Published At
12/7/2023 11:50:05 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.