OpenAI frustra las campañas en línea utilizando su IA para el engaño digital
Summary:
OpenAI, una empresa de inteligencia artificial, ha intervenido para detener varias campañas en línea que utilizaban su tecnología para manipular la opinión pública global. La compañía ha desactivado las cuentas involucradas en tales actividades en los últimos tres meses. Los malhechores explotaron la IA para producir comentarios, nombres y biografías, así como para traducir y editar texto con fines engañosos. OpenAI declaró que estas operaciones encubiertas se centraron en varias controversias, desde el conflicto entre Rusia y Ucrania hasta las críticas al gobierno chino. La compañía aclaró además que tales campañas engañosas no han experimentado ningún aumento significativo en la participación o el alcance de la audiencia debido a sus servicios.
OpenAI, una destacada empresa de inteligencia artificial, ha descarrilado recientemente múltiples campañas en línea que pretendían explotar su tecnología de IA para la manipulación de la opinión pública mundial. El 30 de mayo, OpenAI, fundada por Sam Altman, declaró que había cerrado ciertas cuentas relacionadas con esfuerzos de influencia solapados. La compañía confirmó que durante el último trimestre, ha bloqueado cinco iniciativas subrepticias destinadas a emplear sus modelos para el engaño en línea.
Los malhechores utilizaron la IA para fabricar comentarios para publicaciones, fabricar nombres y biografías para cuentas de redes sociales, así como traducir y editar texto. OpenAI, los desarrolladores de ChatGPT, informaron que una operación conocida como "Spamouflage" utilizó sus servicios para sondear las redes sociales y producir contenido multilingüe en plataformas como X, Medium y Blogspot. El objetivo era influir en la opinión pública y dar forma a los resultados políticos. La IA también se empleó para rectificar el código y administrar bases de datos junto con sitios web.
OpenAI reveló una operación llamada "Bad Grammar" que se dirigió a naciones como Ucrania, Moldavia, los Estados Bálticos y los EE. UU., explotando los modelos de OpenAI para impulsar los bots de Telegram y generar comentarios politizados. Un colectivo conocido como Doppelganger utilizó la IA para producir comentarios en varios idiomas, publicarlos en X y 9GAG, con el fin de manipular la opinión pública.
La compañía también mencionó una entidad llamada "Unión Internacional de Medios Virtuales" que aprovechó la IA para redactar artículos de formato largo, titulares y contenido web para su sitio web asociado. La empresa comercial STOIC, que utilizaba la IA para elaborar artículos y diálogos en las redes sociales en plataformas como Instagram, Facebook, X y sitios web relacionados, también se vio interrumpida por OpenAI.
Según OpenAI, las publicaciones de estas diversas operaciones abarcaron una variedad de temas como la invasión rusa de Ucrania, el conflicto de Gaza, las elecciones indias, la política occidental y estadounidense, y las críticas dirigidas al gobierno chino por parte de disidentes chinos y administraciones extranjeras.
Según se informa, por primera vez, una empresa líder en inteligencia artificial ha revelado cómo se han explotado sus herramientas únicas para la duplicidad en línea. Ben Nimmo, investigador principal de OpenAI, declaró a The New York Times que sus estudios de caso muestran ejemplos obtenidos de algunas campañas de influencia actualmente activas, más frecuentes y de mayor duración. OpenAI llegó a la conclusión de que estas operaciones no parecían obtener ninguna participación o alcance significativo de la audiencia debido a sus servicios.
Published At
5/31/2024 7:05:18 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.