La creciente amenaza de los deepfakes generados por IA en la política: el desafío de las elecciones de 2024
Summary:
A medida que se acercan las elecciones de 2024, Estados Unidos se enfrenta al aumento de los deepfakes políticos generados por IA, cuya frecuencia se ha disparado en un 1.740% en América del Norte. Esta nueva tendencia de fraude ha dado lugar a medidas legislativas, como la prohibición de las voces generadas por IA en las llamadas automáticas. Sin embargo, los expertos advierten que el progreso tecnológico pronto puede hacer imposible la detección por parte del ojo humano sin tecnologías especializadas. Las soluciones sugeridas incluyen verificaciones obligatorias de contenido de IA y verificación de usuarios en plataformas de redes sociales. Los gobiernos de todo el mundo están contemplando medidas adecuadas para abordar este problema, con India buscando mecanismos de aprobación y Europa estableciendo pautas de desinformación sobre IA.
A medida que se acerca el ciclo electoral de 2024, Estados Unidos, junto con otras naciones del mundo, se prepara para un tipo diferente de desafío que plantean las nuevas tecnologías. La aparición de herramientas de IA disponibles para el público ha provocado un aumento de los deepfakes políticos, lo que requiere que los votantes agudicen sus habilidades de discernimiento para separar la realidad de la ficción. Mark Warner, presidente de Inteligencia del Senado, transmitió el 27 de febrero que Estados Unidos estaba menos equipado para hacer frente al fraude electoral para las próximas elecciones en comparación con las anteriores de 2020. Esta situación se debe principalmente a la proliferación de deepfakes generados por IA en el país durante el año anterior. Los datos del servicio de verificación de identidad SumSub revelan que América del Norte ha sido testigo de un enorme aumento del 1.740% en la aparición de deepfakes, con un aumento global de diez veces en la detección de tales casos en 2023. En un incidente impactante, los residentes de New Hampshire recibieron el 20 y 21 de enero llamadas automáticas que imitaban la voz del presidente Joe Biden, instruyéndoles que no votaran en las primarias del 23 de enero. Esto llevó a los reguladores estadounidenses una semana después a prohibir el uso de voces generadas por IA en estafas telefónicas automatizadas, lo que convierte tales acciones en una violación de las leyes de telemarketing de Estados Unidos. Sin embargo, estas medidas legales a menudo no logran disuadir a los estafadores. A medida que el país se prepara para el Súper Martes el 5 de marzo, un día en el que un número significativo de estados de EE. UU. organizan elecciones primarias y caucus, las preocupaciones sobre la información falsa generada por IA y los deepfakes se disparan. Pavel Goldman Kalaydin, jefe de IA y aprendizaje automático de SumSub, aclaró cómo los votantes podrían capacitarse para reconocer los deepfakes y gestionar posibles casos de fraude de identidad deepfake. Kalaydin hizo hincapié en la necesidad de identificar los deepfakes creados por grupos de tecnología avanzada que utilizan GPU de gama alta y modelos de IA generativa y los fabricados por estafadores menos sofisticados que utilizan herramientas estándar. Instó a los votantes a examinar el contenido y validar las fuentes de información, diferenciando las fuentes confiables y creíbles de las ambiguas. Identificó varios signos de presencia de deepfakes, como movimientos inconsistentes de las manos, fondos artificiales, cambios de iluminación, diferencias en el tono de la piel, movimientos oculares inusuales, inconsistencias en la sincronización de los labios y artefactos digitales. Pero advirtió que la rápida evolución de la tecnología pronto puede hacer imposible la identificación humana de deepfakes sin la necesidad de tecnologías de detección especializadas. Kalaydin señaló que el problema creciente radica en la generación de deepfakes y su posterior difusión. A pesar de las numerosas oportunidades que ofrece la accesibilidad de la IA, también es culpable del aumento de los contenidos fraudulentos. Reveló: "Cualquiera puede acceder a aplicaciones de intercambio y transformar el contenido para crear historias falsas, gracias a la disponibilidad de la tecnología de inteligencia artificial". Agregó que la ausencia de regulaciones y políticas legales sólidas facilitó la difusión de información errónea en línea, lo que engaña a los votantes, intensificando el riesgo de decisiones desinformadas. Como posible solución, propuso la necesidad de realizar comprobaciones obligatorias de contenidos de IA o deepfake en las plataformas de redes sociales para informar a los usuarios. "Para proteger a los usuarios de la información falsa y los deepfakes, las plataformas deben implementar tecnologías de detección visual y deepfake para confirmar la autenticidad del contenido", dijo. Además, sugirió implementar la verificación de usuarios en las plataformas. Los gobiernos de todo el mundo también han comenzado a reflexionar sobre posibles medidas. Se ha aconsejado a las empresas tecnológicas locales de la India que obtengan la aprobación antes de lanzar nuevas herramientas públicas de IA "poco fiables" antes de las elecciones de 2024. La Comisión Europea ha formulado directrices sobre la desinformación sobre la IA para las plataformas que operan en sus territorios. Siguiendo el ejemplo de la Comisión, Meta, Facebook y la empresa matriz de Instagram lanzaron su estrategia para que la UE aborde el abuso de la IA generativa en los contenidos de sus plataformas.
Published At
3/5/2024 4:45:25 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.