Meta implementará nuevas normas para el contenido generado por IA en todas sus plataformas
Summary:
Meta está listo para introducir nuevas pautas para el contenido generado por IA en sus plataformas como Facebook, Instagram e hilos. El contenido de IA identificado se etiquetará y los usuarios tendrán la opción de marcar el contenido sospechoso generado por IA. La compañía está colaborando con gigantes tecnológicos como Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock para avanzar en los métodos de detección de marcas de agua invisibles en el contenido generado por IA. Sin embargo, la capacidad de detectar contenido de audio y video generado por IA, incluidos los deepfakes, está actualmente fuera del alcance de Meta.
En los próximos meses, Meta introducirá nuevas directrices relativas a los contenidos producidos por Inteligencia Artificial (IA) en sus diversas plataformas como Facebook, Instagram y los hilos, como se detalla en una entrada del blog de la empresa con fecha del 6 de enero. El contenido se etiquetará de forma visible si se identifica como creado por IA, en función de sus metadatos o de una marca de agua deliberada. Los usuarios de Meta también tendrán la capacidad de marcar cualquier contenido no marcado que se presuma que ha sido generado por IA.
Haciéndose eco de las políticas anteriores de moderación de contenido de Meta, esta actualización nos recuerda un momento en que la corporación, anteriormente conocida como Facebook, estableció un sistema que permitía a los usuarios denunciar contenido que contravenía las reglas de la plataforma. En 2024, Meta vuelve a proporcionar herramientas a sus usuarios en todas sus redes sociales para señalar contenidos inapropiados, aprovechando potencialmente la mayor fuerza de crowdsourcing de consumidores del mundo. Esto significaba que los creadores de contenido estarían obligados a etiquetar sus creaciones como generadas por IA siempre que fuera necesario, de lo contrario podría haber repercusiones.
Según el blog, habrá requisitos para que los usuarios divulguen y etiqueten cualquier contenido orgánico acompañado de un video fotorrealista o un audio que suene realista que haya sido alterado o creado digitalmente, no hacerlo provocaría sanciones.
Curiosamente, cualquier contenido generado por IA creado con las herramientas integradas de Meta recibiría una marca de agua junto con una etiqueta clara que indique su origen. Sin embargo, no todos los sistemas de IA cuentan con estas salvaguardas. La empresa participa en proyectos de colaboración con otras empresas como Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock para desarrollar métodos para la detección a gran escala de marcas de agua invisibles. Sin embargo, es posible que estos métodos solo sean aplicables a las imágenes generadas por IA.
Como se indica en el blog, "Aunque hay indicadores emergentes en sus generadores de imágenes, no han evolucionado para incluirlos en las herramientas de IA que crean contenido de audio y video a la misma escala". Esto significa que, en la actualidad, Meta podría no estar equipada para detectar audio y video generados por IA, incluida la tecnología deepfake, a gran escala.
Published At
2/6/2024 8:05:00 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.