El copiloto del chatbot de IA de Microsoft está implicado en la difusión de información política engañosa
Summary:
Un informe de las organizaciones europeas sin fines de lucro AI Forensics y AlgorithmWatch sugiere que el chatbot de IA de Microsoft, Copilot, difunde de manera inexacta y cita erróneamente información electoral. El bot respondió erróneamente al 30% de las preguntas básicas sobre elecciones políticas en un estudio, lo que posiblemente condujo a información errónea. Las imprecisiones no se limitan a Copilot; Las pruebas preliminares revelaron hallazgos similares en Chat-GPT4. Si bien estos aún no han influido en los resultados, pueden afectar la comprensión y la confianza del público. Las salvaguardas de la IA también esquivan las preguntas de manera inconsistente. Microsoft tiene como objetivo resolver los problemas antes de las elecciones estadounidenses de 2024.
Una investigación realizada por dos grupos sin fines de lucro con sede en Europa sugiere que el chatbot de IA de Microsoft, Copilot, anteriormente conocido como Bing, genera hallazgos erróneos sobre información electoral y cita incorrectamente sus fuentes. AI Forensics y AlgorithmWatch publicaron el estudio el 15 de diciembre, indicando que el 30% de las respuestas del chatbot de IA de Bing a preguntas rudimentarias sobre las elecciones políticas en Alemania y Suiza eran incorrectas. Estos errores en las respuestas tocaron varios temas, como candidatos, encuestas de opinión, controversias y procesos de votación. Las preguntas sobre las elecciones presidenciales de Estados Unidos de 2024 también recibieron respuestas defectuosas.
Los investigadores eligieron el chatbot de IA de Bing para su estudio, ya que fue uno de los chatbots de IA pioneros en incrustar fuentes en sus respuestas, y agregaron que estas imprecisiones no eran exclusivas de Bing. Las pruebas preliminares en Chat-GPT4 también revelaron inconsistencias, informaron.
Las organizaciones benéficas enfatizaron que la información errónea aún no ha afectado los resultados de las elecciones, pero podría generar malentendidos y desinformación pública. La declaración advirtió: "La creciente prevalencia de la IA generativa puede amenazar un pilar fundamental de la democracia: la provisión de información pública confiable y transparente". La investigación también descubrió que las salvaguardas incorporadas en el chatbot de IA no eran uniformemente efectivas, lo que lo llevó a esquivar preguntas el 40% de las veces.
En respuesta a un artículo del Wall Street Journal sobre el informe, Microsoft se comprometió a rectificar los problemas antes de las elecciones de Estados Unidos de 2024. Un portavoz de Microsoft aconsejó a los usuarios que garanticen la exactitud de la información obtenida de los chatbots de IA en todo momento.
En octubre de este año, senadores estadounidenses presentaron un proyecto de ley que penalizaría a los creadores de duplicados artificiales no autorizados de personas reales, vivas o fallecidas. Meta, la empresa matriz de Facebook e Instagram, emitió una directiva en noviembre que prohíbe el uso de herramientas de IA generativa para la creación de anuncios por parte de anunciantes políticos como protección contra futuras elecciones.
Published At
12/15/2023 5:57:01 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.