Google limita consultas relacionadas a eleições no chatbot Gemini em meio a crescentes preocupações com desinformação de IA
Summary:
O Google anunciou planos para limitar as consultas focadas em eleições às quais seu chatbot Gemini pode responder, com mudanças já implementadas nos EUA e na Índia. A medida vem em resposta a preocupações sobre possíveis desinformações e notícias falsas geradas por meio de IA, particularmente em conteúdo de imagem e vídeo. Países como África do Sul e Índia agora exigem que as empresas de tecnologia obtenham aprovação do governo antes de lançar ferramentas de IA potencialmente não confiáveis. A Comissão Europeia e a Meta também tomaram medidas para combater o uso indevido de IA generativa em suas plataformas.
O Google declarou planos para limitar a gama de perguntas focadas em eleições às quais seu chatbot Gemini pode responder. As mudanças já foram implementadas nos Estados Unidos e na Índia, antecipando suas próximas eleições. A empresa, subsidiária da Alphabet, fez essa afirmação na terça-feira, 12 de março, com o objetivo de contornar possíveis percalços durante a utilização da tecnologia. No mês passado, o Google retirou sua ferramenta de criação de imagens alimentada por IA devido a escândalos ligados a imprecisões históricas e comentários controversos. Esta ferramenta foi lançada no início de fevereiro através do Gemini, a coleção de modelos de IA do Google, coincidindo com um rebranding. A progressão na IA generativa aumentou os temores sobre desinformação e notícias fabricadas, particularmente nos domínios da criação de imagens e vídeos. Isso levou os governos a cogitar impor regulamentações sobre essa tecnologia. O Google afirmou em um post de blog que essas limitações em consultas específicas de eleições respondidas pelo Gemini foram instituídas com uma abordagem cautelosa de um assunto importante. A empresa leva a sério seu papel na disseminação de informações de alta qualidade para essas consultas e está se esforçando incessantemente para melhorar suas salvaguardas. Nações como África do Sul e Índia, ambas se preparando para eleições nacionais, exigiram que as empresas de tecnologia obtivessem o consentimento do governo antes da divulgação pública de ferramentas de IA que podem ser duvidosas ou em fase de testes. Essas ferramentas devem ser rotuladas corretamente para indicar a probabilidade de resultados incorretos. O surgimento de ferramentas de IA disponíveis publicamente provocou um aumento nos deepfakes políticos, exigindo que os eleitores desenvolvam novas habilidades para identificar autenticidade. Em 27 de fevereiro, o presidente do Comitê de Inteligência do Senado, Mark Warner, comentou que os EUA estão menos equipados para lidar com fraudes eleitorais para a próxima eleição de 2024 em comparação com a anterior, em 2020. Na Europa, a Comissão Europeia criou diretrizes de desinformação de IA para plataformas regionais e, pouco depois, Meta, Facebook e Instagram, empresa controladora do Instagram, compartilharam seu próprio plano para a União Europeia combater o uso indevido de IA generativa em suas plataformas.
Published At
3/13/2024 11:11:54 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.