Google limita las consultas relacionadas con las elecciones en el chatbot Gemini en medio de la creciente preocupación por la desinformación sobre la IA
Summary:
Google ha anunciado planes para limitar las consultas centradas en las elecciones a las que puede responder su chatbot Gemini, con cambios ya implementados en Estados Unidos e India. La medida se produce en respuesta a las preocupaciones sobre la posible desinformación y las noticias falsas generadas a través de la IA, particularmente en el contenido de imágenes y videos. Países como Sudáfrica e India ahora requieren que las empresas de tecnología obtengan la aprobación del gobierno antes de lanzar herramientas de IA potencialmente poco confiables. La Comisión Europea y Meta también han tomado medidas para combatir el uso indebido de la IA generativa en sus plataformas.
Google ha declarado planes para limitar la gama de consultas centradas en las elecciones a las que puede responder su chatbot Gemini. Los cambios ya se han implementado en Estados Unidos e India, anticipándose a sus próximas elecciones. La compañía, una subsidiaria de Alphabet, hizo esta afirmación el martes 12 de marzo, con el objetivo de eludir posibles contratiempos durante la utilización de la tecnología. El mes pasado, Google retiró su herramienta de creación de imágenes impulsada por IA debido a escándalos relacionados con inexactitudes históricas y comentarios controvertidos. Esta herramienta se lanzó a principios de febrero a través de Gemini, la colección de modelos de IA de Google, coincidiendo con un cambio de marca. El avance de la IA generativa ha aumentado los temores sobre la desinformación y las noticias inventadas, especialmente en los ámbitos de la creación de imágenes y vídeos. Esto ha llevado a los gobiernos a contemplar la imposición de regulaciones sobre dicha tecnología. Google declaró en una publicación de blog que estas limitaciones en las consultas específicas de las elecciones respondidas por Gemini se instauraron con un enfoque cauteloso sobre un asunto importante. La empresa se toma muy en serio su papel en la difusión de información de alta calidad para estas consultas y se esfuerza incesantemente por mejorar sus salvaguardas. Países como Sudáfrica e India, que se preparan para las elecciones nacionales, han exigido a las empresas tecnológicas que obtengan el consentimiento del gobierno antes de lanzar públicamente herramientas de IA que podrían ser dudosas o estar en fase de prueba. Estas herramientas deben estar debidamente etiquetadas para indicar la probabilidad de resultados incorrectos. La aparición de herramientas de IA disponibles públicamente ha provocado un aumento de los deepfakes políticos, lo que obliga a los votantes a desarrollar nuevas habilidades para identificar la autenticidad. El 27 de febrero, el presidente del Comité de Inteligencia del Senado de EE. UU., Mark Warner, comentó que EE. UU. está menos equipado para lidiar con el fraude electoral para las próximas elecciones de 2024 en comparación con la anterior en 2020. En Europa, la Comisión Europea ha elaborado directrices sobre la desinformación de la IA para las plataformas regionales y, poco después, Meta, la empresa matriz de Facebook e Instagram, compartió su propio plan para que la Unión Europea aborde el uso indebido de la IA generativa en sus plataformas.
Published At
3/13/2024 11:11:54 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.