Microsofts KI-Chatbot-Copilot an der Verbreitung irreführender politischer Informationen beteiligt
Summary:
Ein Bericht der europäischen Non-Profit-Organisationen AI Forensics und AlgorithmWatch legt nahe, dass Microsofts KI-Chatbot Copilot Wahlinformationen ungenau verbreitet und falsch zitiert. Der Bot beantwortete in einer Studie 30 % der grundlegenden politischen Wahlfragen falsch, was möglicherweise zu Fehlinformationen führte. Die Ungenauigkeiten beschränken sich nicht nur auf Copilot. Vorläufige Tests ergaben ähnliche Ergebnisse in Chat-GPT4. Diese haben zwar noch keinen Einfluss auf die Ergebnisse, können aber das Verständnis und das Vertrauen der Öffentlichkeit beeinträchtigen. Auch die Sicherheitsvorkehrungen der KI weichen Fragen inkonsistent aus. Microsoft will Probleme vor den US-Wahlen 2024 lösen.
Untersuchungen von zwei gemeinnützigen Gruppen mit Sitz in Europa deuten darauf hin, dass Microsofts umbenannter KI-Chatbot Copilot, der früher als Bing bekannt war, fehlerhafte Ergebnisse zu Wahlinformationen generiert und seine Quellen falsch zitiert. AI Forensics und AlgorithmWatch veröffentlichten die Studie am 15. Dezember, aus der hervorgeht, dass 30 % der Antworten des KI-Chatbots von Bing auf rudimentäre Fragen zu politischen Wahlen in Deutschland und der Schweiz falsch waren. Diese Fehler in den Antworten betrafen verschiedene Themen wie Kandidaten, Meinungsumfragen, Kontroversen und Wahlprozesse. Auch Fragen zu den amerikanischen Präsidentschaftswahlen 2024 erhielten fehlerhafte Antworten.
Die Forscher wählten den KI-Chatbot von Bing für ihre Studie, da er zu den ersten KI-Chatbots gehörte, die Quellen in ihre Antworten einbetteten, und fügten hinzu, dass diese Ungenauigkeiten nicht nur bei Bing auftraten. Vorläufige Tests zu Chat-GPT4 zeigten auch Ungereimtheiten, berichteten sie.
Die Wohltätigkeitsorganisationen betonten, dass die fehlerhaften Informationen die Wahlergebnisse noch nicht beeinflusst haben, aber möglicherweise zu öffentlichen Missverständnissen und Desinformationen führen könnten. In der Erklärung wird gewarnt: "Die zunehmende Verbreitung generativer KI könnte einen Grundpfeiler der Demokratie bedrohen: die Bereitstellung vertrauenswürdiger und transparenter öffentlicher Informationen." Die Studie ergab auch, dass die eingebauten Sicherheitsvorkehrungen im KI-Chatbot nicht einheitlich wirksam waren, was dazu führte, dass er in 40 % der Fälle Fragen ausweichen musste.
Als Reaktion auf einen Artikel des Wall Street Journal über den Bericht versprach Microsoft, die Probleme vor den US-Wahlen 2024 zu beheben. Ein Sprecher von Microsoft riet den Nutzern, die Richtigkeit der von KI-Chatbots gewonnenen Informationen jederzeit sicherzustellen.
Im Oktober dieses Jahres brachten US-Senatoren einen Gesetzentwurf ein, der die Schöpfer von nicht autorisierten künstlichen Duplikaten realer Personen – lebend oder verstorben – bestrafen würde. Meta, die Muttergesellschaft von Facebook und Instagram, hat im November eine Richtlinie erlassen, die den Einsatz generativer KI-Tools für die Anzeigenerstellung durch politische Werbetreibende verbietet, um sich vor zukünftigen Wahlen zu schützen.
Published At
12/15/2023 5:57:01 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.