Le copilote du chatbot IA de Microsoft impliqué dans la diffusion d’informations politiques trompeuses
Summary:
Un rapport des organisations européennes à but non lucratif AI Forensics et AlgorithmWatch suggère que le chatbot d’IA de Microsoft, Copilot, diffuse de manière inexacte et cite de manière erronée des informations électorales. Le bot a répondu à tort à 30 % des questions de base sur les élections politiques dans une étude, ce qui a peut-être conduit à de la désinformation. Les inexactitudes ne se limitent pas à Copilot ; Des tests préliminaires ont révélé des résultats similaires dans Chat-GPT4. Bien que ceux-ci n’aient pas encore influencé les résultats, ils peuvent affecter la compréhension et la confiance du public. Les garde-fous de l’IA esquivent également les questions de manière incohérente. Microsoft vise à résoudre les problèmes avant les élections américaines de 2024.
Des recherches menées par deux groupes à but non lucratif basés en Europe suggèrent que le chatbot d’IA rebaptisé de Microsoft, Copilot, anciennement connu sous le nom de Bing, génère des résultats erronés sur les informations électorales et cite incorrectement ses sources. AI Forensics et AlgorithmWatch ont publié l’étude le 15 décembre, indiquant que 30 % des réponses du chatbot IA de Bing à des questions rudimentaires sur les élections politiques en Allemagne et en Suisse étaient incorrectes. Ces erreurs dans les réponses ont touché divers sujets tels que les candidats, les sondages d’opinion, les controverses et les processus de vote. Les questions sur les élections présidentielles américaines de 2024 ont également reçu des réponses erronées.
Les chercheurs ont choisi le chatbot d’IA de Bing pour leur étude car il faisait partie des chatbots d’IA pionniers à intégrer des sources dans ses réponses, ajoutant que ces inexactitudes n’étaient pas exclusives à Bing. Des tests préliminaires sur Chat-GPT4 ont également révélé des incohérences, ont-ils rapporté.
Les organisations caritatives ont souligné que les informations erronées n’ont pas encore affecté les résultats des élections, mais qu’elles pourraient potentiellement engendrer l’incompréhension et la désinformation du public. La déclaration avertissait : « La prévalence croissante de l’IA générative peut menacer un pilier fondamental de la démocratie : la fourniture d’informations publiques fiables et transparentes. » La recherche a également révélé que les protections intégrées au chatbot d’IA n’étaient pas uniformément efficaces, ce qui l’incitait à esquiver les questions dans 40 % des cas.
En réponse à un article du Wall Street Journal sur le rapport, Microsoft s’est engagé à rectifier les problèmes avant les élections américaines de 2024. Un porte-parole de Microsoft a conseillé aux utilisateurs de s’assurer à tout moment de l’exactitude des informations obtenues à partir des chatbots d’IA.
En octobre de cette année, les sénateurs américains ont déposé un projet de loi qui pénaliserait les créateurs de copies artificielles non autorisées de personnes réelles, vivantes ou décédées. Meta, la société mère de Facebook et Instagram, a publié en novembre une directive interdisant l’utilisation d’outils d’IA générative pour la création de publicités par les annonceurs politiques afin de se prémunir contre de futures élections.
Published At
12/15/2023 5:57:01 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.