Meta impõe marcas d'água invisíveis em imagens geradas por IA para coibir uso indevido
Summary:
A Meta, empresa anteriormente conhecida como Facebook, planeja adicionar marcas d'água invisíveis a todas as imagens criadas com sua ferramenta de inteligência artificial (IA) para evitar o uso indevido. Ao contrário das marcas d'água tradicionais, elas resistirão a manipulações comuns de imagem e não podem ser removidas facilmente. Inicialmente aplicado a imagens produzidas pela Meta AI, o serviço de marca d'água mais tarde se estenderá a outros serviços da Meta usando IA para geração de imagens. O recurso 'reimagine' para Facebook Messenger e Instagram, que permite aos usuários trocar imagens orientadas por IA, também receberá esse recurso. Essa mudança responde ao aumento de golpes auxiliados por IA que fabricam conteúdo enganoso, como visto com vídeos, áudios e imagens falsas que circularam na web.
A Meta, empresa anteriormente conhecida como Facebook, anunciou planos para incorporar marcas d'água ocultas em todas as imagens criadas por meio de inteligência artificial (IA), como parte de sua estratégia para impedir o uso indevido da tecnologia. De acordo com uma atualização fornecida em 6 de dezembro sobre a Meta AI - a assistente inteligente da empresa - uma marca d'água invisível será incorporada em breve em todas as imagens geradas por IA decorrentes da experiência "imagine com Meta AI". Assim como outros chatbots de IA, a Meta AI fabrica imagens e conteúdo com base na entrada dos usuários; no entanto, ao contrário de suas contrapartes, a Meta pretende desencorajar a prevaricação, recusando-se a deixar seu recurso ser explorado como uma ferramenta para engano.
O recurso de marca d'água invisível de entrada será resistente às tentativas de remoção pelos criadores. "Nas próximas semanas, uma marca d'água oculta será integrada à experiência 'imagine com a Meta AI' para maior transparência e responsabilidade", afirmou a Meta. Um modelo de aprendizado profundo será usado para afixar marcas d'água - indetectáveis pelo olho humano - em imagens fabricadas por meio da ferramenta de IA. No entanto, as marcas d'água ocultas podem ser identificadas com um modelo apropriado. As marcas d'água convencionais estão abaixo das marcas d'água de IA proclamadas da Meta, conhecidas como "imagine com Meta AI", que são robustas contra modificações usuais de imagem, incluindo corte, alterações de cor (ajustes de brilho ou contraste), capturas de tela e muito mais.
Inicialmente, o serviço de marca d'água será aplicado a imagens produzidas por meio da Meta AI, mas há planos de estender o recurso para outros serviços que empregam IA na geração de imagens. Além disso, a Meta AI lançou o recurso 'reimagine' para Facebook Messenger e Instagram. Esta atualização facilita a troca de imagens orientadas por IA entre os usuários e integrará o recurso de marca d'água oculta em ambas as plataformas de mensagens.
Plataformas de IA, como Dall-E e Midjourney, já oferecem a opção de incorporar marcas d'água tradicionais em seus conteúdos. No entanto, eles podem ser facilmente removidos cortando a imagem perifericamente. Certas ferramentas de IA podem até erradicar marcas d'água de imagens automaticamente, um feito que a Meta AI afirma que será impraticável com seu produto.
Após a popularização das ferramentas de IA generativa, uma variedade de entidades empresariais e celebridades denunciaram empreendimentos fraudulentos auxiliados por IA. Os golpistas exploram ferramentas úteis para produzir vídeos, áudios e imagens falsificados de pessoas renomadas, que depois proliferam na web.
Em maio, uma imagem inventada por IA mostrando uma explosão perto do Pentágono, sede do Departamento de Defesa dos EUA, levou momentaneamente a uma queda no mercado de ações. Essa imagem fabricada foi posteriormente compartilhada e difundida por outras publicações de notícias, causando assim um efeito cascata. No entanto, as autoridades locais, incluindo a Agência de Proteção da Força do Pentágono, responsável pela segurança do edifício, refutaram os relatos que circulavam, enfatizando que não houve "nenhuma explosão ou incidente".
No mesmo mês, a Anistia Internacional, uma organização de direitos humanos, foi enganada por uma imagem gerada por IA que supostamente mostrava a opressão policial, que posteriormente usou para campanhas contra a aplicação da lei. Erika Guevara Rosas, diretora para as Américas da Anistia, reconheceu o erro, dizendo que "retiramos as imagens das atualizações das redes sociais, pois não queremos que a disputa sobre o uso de imagens inventadas por IA marginalize o apoio às vítimas e seus pedidos por justiça na Colômbia".
Published At
12/7/2023 11:50:05 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.