Ameaça crescente de deepfakes gerados por IA na política: o desafio das eleições de 2024
Summary:
À medida que as eleições de 2024 se aproximam, os EUA lidam com o aumento de deepfakes políticos gerados por IA, que explodiram em frequência em 1.740% na América do Norte. Essa nova tendência de fraude levou a ações legislativas, como a proibição de vozes geradas por IA em robocalls. No entanto, especialistas alertam que a progressão tecnológica pode em breve tornar a detecção por olhos humanos impossível sem tecnologias especializadas. As soluções sugeridas incluem verificações obrigatórias de conteúdo de IA e verificação de usuários em plataformas de mídia social. Governos de todo o mundo estão contemplando medidas adequadas para enfrentar essa questão, com a Índia buscando mecanismos de aprovação e a Europa definindo diretrizes de desinformação sobre IA.
À medida que o ciclo eleitoral de 2024 se aproxima, os Estados Unidos, juntamente com outras nações globais, se preparam para um tipo diferente de desafio que as novas tecnologias representam. O surgimento de ferramentas de IA disponíveis ao público provocou uma onda de deepfakes políticos, exigindo que os eleitores aprimorem suas habilidades de discernimento para separar fato de ficção. Mark Warner, presidente de Inteligência do Senado, transmitiu em 27 de fevereiro que os EUA estavam menos equipados para lidar com a fraude eleitoral para a eleição que se aproximava em comparação com a anterior de 2020. Essa situação se deve principalmente à proliferação de deepfakes gerados por IA no país no ano anterior. Dados do serviço de verificação de identidade SumSub revelam que a América do Norte testemunhou um aumento impressionante de 1.740% na ocorrência de deepfake, com um aumento global de dez vezes na detecção de tais casos em 2023. Em um incidente chocante, moradores de New Hampshire receberam robocalls nos dias 20 e 21 de janeiro imitando a voz do presidente Joe Biden, instruindo-os a não votar nas primárias de 23 de janeiro. Isso levou os reguladores dos EUA uma semana depois a proibir o uso de vozes geradas por IA em golpes telefônicos automatizados, tornando tais ações uma violação das leis de telemarketing dos EUA. No entanto, tais medidas legais muitas vezes não conseguem dissuadir os fraudadores. Enquanto o país se prepara para a Super Terça em 5 de março, um dia em que um número significativo de estados dos EUA sedia eleições primárias e caucuses, as preocupações com informações falsas geradas por IA e deepfakes disparam. Pavel Goldman Kalaydin, chefe de IA e aprendizado de máquina da SumSub, esclareceu como os eleitores poderiam se treinar para reconhecer deepfakes e gerenciar possíveis casos de fraude de identidade deepfake. Kalaydin enfatizou a necessidade de identificar deepfakes criados por grupos de tecnologia avançada usando GPUs de ponta e modelos de IA generativa e aqueles fabricados por fraudadores menos sofisticados usando ferramentas padrão. Ele pediu aos eleitores que examinem o conteúdo e validem as fontes de informação, diferenciando fontes confiáveis e confiáveis das ambíguas. Ele identificou vários sinais de presença de deepfake, como movimentos inconsistentes das mãos, fundos artificiais, mudanças de iluminação, diferenças de tom de pele, movimentos incomuns dos olhos, inconsistências de sincronização labial e artefatos digitais. Mas ele alertou que a tecnologia em rápida evolução pode em breve tornar impossível a identificação humana de deepfakes sem a necessidade de tecnologias de detecção especializadas. Kalaydin apontou que a questão crescente está na geração de deepfake e posterior disseminação. Apesar das inúmeras oportunidades que a acessibilidade da IA oferece, ela também é culpada pelo aumento de conteúdo fraudulento. Ele revelou: "Qualquer pessoa pode acessar aplicativos de troca e transformar conteúdo para girar histórias falsas, graças à disponibilidade da tecnologia de IA". Ele acrescentou que a ausência de regulamentações e políticas legais sólidas facilitou a disseminação de desinformação online, o que engana os eleitores, intensificando o risco de decisões desinformadas. Como uma possível solução, ele propôs a necessidade de verificações obrigatórias de conteúdo de IA ou deepfake nas plataformas de mídia social para informar os usuários. "Para proteger os usuários de informações falsas e deepfakes, as plataformas precisam implementar tecnologias de deepfake e detecção visual para confirmar a autenticidade do conteúdo", disse. Ele ainda sugeriu a implementação da verificação de usuários nas plataformas. Governos em todo o mundo também começaram a ponderar possíveis medidas. As empresas de tecnologia locais na Índia foram aconselhadas a obter aprovação antes de lançar novas ferramentas públicas de IA "não confiáveis" antes das eleições de 2024. A Comissão Europeia formulou diretrizes de desinformação de IA para plataformas que operam em seus territórios. Seguindo o exemplo da Comissão, a Meta, o Facebook e a empresa-mãe do Instagram lançaram sua estratégia para a UE combater o abuso de IA generativa em conteúdo em suas plataformas.
Published At
3/5/2024 4:45:25 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.