OpenAI contrecarre les campagnes en ligne en utilisant son IA pour tromper le numérique
Summary:
OpenAI, une société d’intelligence artificielle, est intervenue pour arrêter plusieurs campagnes en ligne qui utilisaient sa technologie pour manipuler l’opinion publique mondiale. La société a désactivé les comptes impliqués dans de telles activités au cours des trois derniers mois. Les malfaiteurs ont exploité l’IA pour produire des commentaires, des noms et des biographies, ainsi que pour traduire et modifier du texte à des fins trompeuses. OpenAI a déclaré que ces opérations secrètes étaient centrées sur diverses controverses, du conflit russo-ukrainien aux critiques du gouvernement chinois. La société a en outre précisé que ces campagnes trompeuses n’ont pas connu d’augmentation significative de l’engagement ou de la portée du public grâce à leurs services.
OpenAI, une société d’intelligence artificielle de premier plan, a récemment fait dérailler plusieurs campagnes en ligne visant à exploiter sa technologie d’IA pour manipuler l’opinion publique mondiale. Le 30 mai, OpenAI, fondé par Sam Altman, a déclaré avoir fermé certains comptes liés à des efforts d’influence sournois. La société a confirmé qu’au cours du dernier trimestre, elle a bloqué cinq initiatives clandestines visant à utiliser ses modèles pour tromper en ligne.
Les mécréants ont déployé l’IA pour fabriquer des commentaires pour les publications, fabriquer des noms et des biographies pour les comptes de réseaux sociaux, ainsi que traduire et éditer du texte. OpenAI, les développeurs de ChatGPT, ont rapporté qu’une opération connue sous le nom de « Spamouflage » utilisait leurs services pour sonder les médias sociaux et produire du contenu multilingue sur des plateformes telles que X, Medium et Blogspot. L’objectif était d’influencer l’opinion publique et de façonner les résultats politiques. L’IA a également été utilisée pour rectifier le code et administrer des bases de données ainsi que des sites Web.
OpenAI a révélé une opération nommée « Bad Grammar » qui ciblait des pays comme l’Ukraine, la Moldavie, les États baltes et les États-Unis, exploitant les modèles OpenAI pour alimenter les bots Telegram et générer des commentaires politisés. Un collectif connu sous le nom de Doppelganger a utilisé l’IA pour produire des commentaires dans différentes langues, les publier sur X et 9GAG, à des fins de manipulation de l’opinion publique.
La société a également mentionné une entité nommée « Union internationale des médias virtuels » qui a tiré parti de l’IA pour composer des articles longs, des titres et du contenu Web pour son site Web associé. La société commerciale STOIC, qui a utilisé l’IA pour rédiger des articles et dialoguer sur les médias sociaux sur des plateformes telles qu’Instagram, Facebook, X et des sites Web connexes, aurait également été perturbée par OpenAI.
Selon OpenAI, les messages de ces diverses opérations portaient sur un assortiment de sujets tels que l’invasion russe de l’Ukraine, le conflit de Gaza, les élections indiennes, la politique occidentale et américaine et les critiques adressées au gouvernement chinois par les dissidents chinois et les administrations étrangères.
Pour la première fois, une entreprise d’IA de premier plan a dévoilé comment ses outils uniques ont été exploités pour la duplicité en ligne. Ben Nimmo, chercheur principal chez OpenAI, a déclaré au New York Times que leurs études de cas présentent des exemples obtenus à partir de certaines campagnes d’influence actuellement actives, les plus répandues et les plus anciennes. OpenAI a conclu que ces opérations ne semblaient pas susciter d’engagement ou de portée significative du public grâce à leurs services.
Published At
5/31/2024 7:05:18 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.