Zunehmende Bedrohung durch KI-generierte Deepfakes in der Politik: Die Herausforderung der Wahlen 2024
Summary:
Während die Wahlen 2024 näher rücken, kämpfen die USA mit dem Anstieg von KI-generierten politischen Deepfakes, deren Häufigkeit in Nordamerika um 1.740 % explodiert ist. Dieser neue Betrugstrend hat zu gesetzgeberischen Maßnahmen geführt, wie z. B. dem Verbot von KI-generierten Stimmen in Robocalls. Experten warnen jedoch davor, dass der technische Fortschritt die Erkennung durch das menschliche Auge ohne spezialisierte Technologien bald unmöglich machen könnte. Zu den vorgeschlagenen Lösungen gehören obligatorische KI-Inhaltsprüfungen und die Verifizierung von Nutzern auf Social-Media-Plattformen. Regierungen auf der ganzen Welt erwägen angemessene Maßnahmen, um dieses Problem anzugehen, wobei Indien Genehmigungsmechanismen anstrebt und Europa Richtlinien für KI-Fehlinformationen festlegt.
Während der Wahlzyklus 2024 näher rückt, bereiten sich die Vereinigten Staaten zusammen mit anderen globalen Nationen auf eine andere Art von Herausforderung vor, die neue Technologien mit sich bringen. Das Aufkommen von KI-Tools, die der Öffentlichkeit zur Verfügung stehen, hat eine Welle politischer Deepfakes ausgelöst, die von den Wählern verlangen, ihr Unterscheidungsvermögen zu schärfen, um Fakten von Fiktion zu unterscheiden. Mark Warner, der Vorsitzende des Geheimdienstausschusses im Senat, teilte am 27. Februar mit, dass die USA im Vergleich zu den letzten Wahlen im Jahr 2020 weniger gut gerüstet seien, um mit Wahlbetrug fertig zu werden. Diese Situation ist in erster Linie auf die Verbreitung von KI-generierten Deepfakes im Land im vergangenen Jahr zurückzuführen. Die Daten des Identitätsprüfungsdienstes SumSub zeigen, dass Nordamerika einen satten Anstieg von 1.740 % bei Deepfakes verzeichnet hat, wobei sich die Erkennung solcher Fälle im Jahr 2023 weltweit verzehnfacht hat. In einem schockierenden Vorfall erhielten die Einwohner von New Hampshire am 20. und 21. Januar Roboteranrufe, die die Stimme von Präsident Joe Biden nachahmten und sie anwiesen, nicht an den Vorwahlen am 23. Januar teilzunehmen. Dies führte dazu, dass die US-Aufsichtsbehörden eine Woche später die Verwendung von KI-generierten Stimmen bei automatisiertem Telefonbetrug verboten und solche Aktionen zu einem Verstoß gegen die US-Telemarketinggesetze machten. Solche rechtlichen Maßnahmen können Betrüger jedoch oft nicht abschrecken. Während sich das Land auf den Super Tuesday am 5. März vorbereitet, einen Tag, an dem in einer beträchtlichen Anzahl von US-Bundesstaaten Vorwahlen und Caucuses stattfinden, steigt die Besorgnis über gefälschte KI-generierte Informationen und Deepfakes sprunghaft an. Pavel Goldman Kalaydin, Leiter der Abteilung für KI und maschinelles Lernen bei SumSub, erläuterte, wie sich Wähler darin schulen können, Deepfakes zu erkennen und potenzielle Fälle von Deepfake-Identitätsbetrug zu verwalten. Kalaydin betonte die Notwendigkeit, Deepfakes zu identifizieren, die von fortschrittlichen Technologiekonzernen mit High-End-GPUs und generativen KI-Modellen erstellt wurden, und solche, die von weniger raffinierten Betrügern mit Standardwerkzeugen hergestellt wurden. Er forderte die Wähler auf, Inhalte zu prüfen und Informationsquellen zu validieren, wobei vertrauenswürdige, glaubwürdige Quellen von mehrdeutigen unterschieden werden sollten. Er identifizierte mehrere Anzeichen für das Vorhandensein von Deepfakes wie inkonsistente Handbewegungen, künstliche Hintergründe, Lichtwechsel, Hauttonunterschiede, ungewöhnliche Augenbewegungen, Inkonsistenzen bei der Lippensynchronisation und digitale Artefakte. Er warnte jedoch davor, dass die sich schnell entwickelnde Technologie die menschliche Identifizierung von Deepfakes bald unmöglich machen könnte, ohne dass spezielle Erkennungstechnologien erforderlich sind. Kalaydin wies darauf hin, dass das wachsende Problem in der Generierung von Deepfakes und der anschließenden Verbreitung liegt. Trotz der zahlreichen Möglichkeiten, die die KI-Barrierefreiheit bietet, ist sie auch für die Zunahme betrügerischer Inhalte verantwortlich. Er enthüllte: "Dank der Verfügbarkeit von KI-Technologie kann jeder auf Swaping-Anwendungen zugreifen und Inhalte verändern, um gefälschte Geschichten zu spinnen." Er fügte hinzu, dass das Fehlen solider gesetzlicher Vorschriften und Richtlinien die Verbreitung von Fehlinformationen im Internet erleichtert, die die Wähler in die Irre führen und das Risiko uninformierter Entscheidungen erhöhen. Als mögliche Lösung schlug er die Notwendigkeit einer verpflichtenden Überprüfung auf KI- oder Deepfake-Inhalte auf Social-Media-Plattformen vor, um die Nutzer zu informieren. "Um Nutzer vor Falschinformationen und Deepfakes zu schützen, müssen Plattformen Deepfake- und visuelle Erkennungstechnologien implementieren, um die Authentizität von Inhalten zu bestätigen", sagte er. Er schlug außerdem vor, die Nutzerverifizierung auf Plattformen zu implementieren. Auch Regierungen auf der ganzen Welt haben begonnen, über mögliche Maßnahmen nachzudenken. Lokalen Technologieunternehmen in Indien wurde geraten, eine Genehmigung einzuholen, bevor sie vor den Wahlen 2024 neue "nicht vertrauenswürdige" öffentliche KI-Tools einführen. Die Europäische Kommission hat Leitlinien für KI-Fehlinformationen für Plattformen formuliert, die in ihrem Hoheitsgebiet tätig sind. Dem Beispiel der Kommission folgend, haben Meta, Facebook und die Muttergesellschaft von Instagram ihre Strategie für die EU zur Bekämpfung des Missbrauchs generativer KI in Inhalten auf ihren Plattformen vorgestellt.
Published At
3/5/2024 4:45:25 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.