Crescente minaccia dei deepfake generati dall'intelligenza artificiale in politica: la sfida elettorale del 2024
Summary:
Con l'avvicinarsi delle elezioni del 2024, gli Stati Uniti sono alle prese con l'ascesa dei deepfake politici generati dall'intelligenza artificiale, che sono esplosi in frequenza del 1.740% in Nord America. Questa nuova tendenza alle frodi ha portato ad azioni legislative, come il divieto delle voci generate dall'intelligenza artificiale nelle chiamate automatiche. Tuttavia, gli esperti avvertono che il progresso tecnologico potrebbe presto rendere impossibile il rilevamento da parte dell'occhio umano senza tecnologie specializzate. Le soluzioni suggerite includono controlli obbligatori dei contenuti AI e la verifica degli utenti sulle piattaforme di social media. I governi di tutto il mondo stanno valutando misure adeguate per affrontare questo problema, con l'India che cerca meccanismi di approvazione e l'Europa che definisce linee guida sulla disinformazione sull'IA.
Con l'avvicinarsi del ciclo elettorale del 2024, gli Stati Uniti, insieme ad altre nazioni globali, si preparano a un diverso tipo di sfida che le nuove tecnologie pongono. L'emergere di strumenti di intelligenza artificiale disponibili al pubblico ha scatenato un'impennata dei deepfake politici, richiedendo agli elettori di affinare le loro capacità di discernimento per separare i fatti dalla finzione. Mark Warner, presidente dell'intelligence del Senato, il 27 febbraio ha comunicato che gli Stati Uniti erano meno attrezzati per far fronte alle frodi elettorali per l'avvicinarsi delle elezioni rispetto alle precedenti elezioni del 2020. Questa situazione è dovuta principalmente alla proliferazione di deepfake generati dall'intelligenza artificiale nel paese nell'ultimo anno. I dati del servizio di verifica dell'identità SumSub rivelano che il Nord America ha assistito a un enorme aumento del 1.740% della presenza di deepfake, con un aumento globale di dieci volte nel rilevamento di tali istanze nel 2023. In un incidente scioccante, i residenti del New Hampshire il 20-21 gennaio hanno ricevuto chiamate automatiche che imitavano la voce del presidente Joe Biden, che li istruiva a non votare alle primarie del 23 gennaio. Ciò ha portato le autorità di regolamentazione statunitensi, una settimana dopo, a vietare l'uso di voci generate dall'intelligenza artificiale nelle truffe telefoniche automatizzate, rendendo tali azioni una violazione delle leggi statunitensi sul telemarketing. Tuttavia, tali misure legali spesso non riescono a scoraggiare i truffatori. Mentre il paese si prepara per il Super Tuesday del 5 marzo, un giorno in cui un numero significativo di stati degli Stati Uniti ospita elezioni primarie e caucus, le preoccupazioni per le false informazioni generate dall'intelligenza artificiale e i deepfake salgono alle stelle. Pavel Goldman Kalaydin, responsabile dell'intelligenza artificiale e dell'apprendimento automatico di SumSub, ha chiarito come gli elettori potrebbero allenarsi a riconoscere i deepfake e gestire potenziali casi di frode di identità deepfake. Kalaydin ha sottolineato la necessità di identificare i deepfake creati da gruppi tecnologici avanzati che utilizzano GPU di fascia alta e modelli di intelligenza artificiale generativa e quelli fabbricati da truffatori meno sofisticati utilizzando strumenti standard. Ha esortato gli elettori a esaminare i contenuti e convalidare le fonti di informazione, differenziando le fonti attendibili e credibili da quelle ambigue. Ha identificato diversi segni della presenza di deepfake come movimenti incoerenti delle mani, sfondi artificiali, cambiamenti di illuminazione, differenze di tonalità della pelle, movimenti insoliti degli occhi, incongruenze di sincronizzazione delle labbra e artefatti digitali. Ma ha avvertito che la tecnologia in rapida evoluzione potrebbe presto rendere impossibile l'identificazione umana dei deepfake senza la necessità di tecnologie di rilevamento specializzate. Kalaydin ha sottolineato che il problema crescente risiede nella generazione di deepfake e nella successiva diffusione. Nonostante le numerose opportunità offerte dall'accessibilità dell'IA, è anche responsabile dell'aumento dei contenuti fraudolenti. Ha rivelato: "Chiunque può accedere alle applicazioni di swapping e morphing dei contenuti per far girare storie false, grazie alla disponibilità della tecnologia AI". Ha aggiunto che l'assenza di solide normative e politiche legali ha facilitato la diffusione della disinformazione online, che induce in errore gli elettori, intensificando il rischio di decisioni non informate. Come potenziale soluzione, ha proposto la necessità di controlli obbligatori per l'intelligenza artificiale o i contenuti deepfake sulle piattaforme di social media per informare gli utenti. "Per salvaguardare gli utenti da informazioni false e deepfake, le piattaforme devono implementare tecnologie di rilevamento visivo e deepfake per confermare l'autenticità dei contenuti", ha affermato. Ha inoltre suggerito di implementare la verifica degli utenti sulle piattaforme. Anche i governi di tutto il mondo hanno iniziato a rimuginare su potenziali misure. Alle aziende tecnologiche locali in India è stato consigliato di ottenere l'approvazione prima di lanciare nuovi strumenti di intelligenza artificiale pubblici "inaffidabili" in vista delle elezioni del 2024. La Commissione europea europea ha formulato linee guida sulla disinformazione sull'IA per le piattaforme che operano all'interno del suo territorio. Seguendo l'esempio della Commissione, Meta, Facebook e la società madre di Instagram hanno lanciato la loro strategia per l'UE per affrontare l'abuso dell'IA generativa nei contenuti delle sue piattaforme.
Published At
3/5/2024 4:45:25 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.