Il copilota del chatbot AI di Microsoft implicato nella diffusione di informazioni politiche fuorvianti
Summary:
Un rapporto delle organizzazioni no-profit europee AI Forensics e AlgorithmWatch suggerisce che il chatbot AI di Microsoft, Copilot, diffonde in modo impreciso e cita erroneamente le informazioni elettorali. Il bot ha risposto erroneamente al 30% delle domande di base sulle elezioni politiche in uno studio, portando probabilmente a disinformazione. Le imprecisioni non sono limitate a Copilot; i test preliminari hanno rivelato risultati simili in Chat-GPT4. Anche se questi non hanno ancora influenzato i risultati, possono influenzare la comprensione e la fiducia del pubblico. Le misure di sicurezza dell'IA evitano anche le domande in modo incoerente. Microsoft mira a risolvere i problemi in vista delle elezioni statunitensi del 2024.
Una ricerca condotta da due gruppi senza scopo di lucro con sede in Europa suggerisce che il chatbot AI di Microsoft, Copilot, precedentemente noto come Bing, genera risultati errati sulle informazioni elettorali e cita erroneamente le sue fonti. AI Forensics e AlgorithmWatch hanno pubblicato lo studio il 15 dicembre, indicando che il 30% delle risposte del chatbot AI di Bing a domande rudimentali sulle elezioni politiche in Germania e Svizzera erano errate. Questi errori nelle risposte hanno toccato vari argomenti come i candidati, i sondaggi d'opinione, le controversie e i processi di voto. Anche le domande sulle elezioni presidenziali americane del 2024 hanno ricevuto risposte errate.
I ricercatori hanno scelto il chatbot AI di Bing per il loro studio in quanto è stato tra i pionieri dei chatbot AI a incorporare le fonti all'interno delle sue risposte, aggiungendo che queste imprecisioni non erano esclusive di Bing. Anche i test preliminari su Chat-GPT4 hanno rivelato incongruenze, hanno riferito.
Le organizzazioni di beneficenza hanno sottolineato che le informazioni errate devono ancora influenzare i risultati delle elezioni, ma potrebbero potenzialmente generare incomprensioni e disinformazione pubblica. La dichiarazione avverte: "La crescente prevalenza dell'IA generativa può minacciare un pilastro fondamentale della democrazia: la fornitura di informazioni pubbliche affidabili e trasparenti". La ricerca ha anche scoperto che le misure di sicurezza integrate nel chatbot AI non erano uniformemente efficaci, spingendolo a schivare le domande il 40% delle volte.
In risposta a un articolo del Wall Street Journal sul rapporto, Microsoft si è impegnata a correggere i problemi prima delle elezioni statunitensi del 2024. Un portavoce di Microsoft ha consigliato agli utenti di garantire sempre l'accuratezza delle informazioni ottenute dai chatbot AI.
Nell'ottobre di quest'anno, i senatori statunitensi hanno presentato un disegno di legge che penalizzerebbe i creatori di duplicati artificiali non autorizzati di persone reali, vive o decedute. Meta, la società madre di Facebook e Instagram, ha emesso una direttiva a novembre che vieta l'uso di strumenti di intelligenza artificiale generativa per la creazione di annunci da parte degli inserzionisti politici come salvaguardia contro future elezioni.
Published At
12/15/2023 5:57:01 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.