Microsoft'un Yapay Zeka Sohbet Robotu Copilot'u Yanıltıcı Siyasi Bilgilerin Yayılmasına Karıştı
Summary:
Avrupalı kar amacı gütmeyen kuruluşlar AI Forensics ve AlgorithmWatch tarafından hazırlanan bir rapor, Microsoft'un yapay zeka sohbet robotu Copilot'un seçim bilgilerini yanlış bir şekilde yaydığını ve yanlış aktardığını öne sürüyor. Bot, bir çalışmada temel siyasi seçim sorularının %30'una yanlış yanıt verdi ve muhtemelen yanlış bilgilendirmeye yol açtı. Yanlışlıklar Copilot ile sınırlı değildir; ön testler Chat-GPT4'te de benzer bulgular ortaya çıkardı. Bunlar henüz sonuçları etkilememiş olsa da, halkın anlayışını ve güvenini etkileyebilir. Yapay zekanın güvenlik önlemleri de tutarsız bir şekilde sorulardan kaçıyor. Microsoft, 2024 ABD seçimlerinden önce sorunları çözmeyi hedefliyor.
Avrupa merkezli iki kar amacı gütmeyen grup tarafından yürütülen araştırma, Microsoft'un daha önce Bing olarak bilinen yeniden markalanmış yapay zeka sohbet robotu Copilot'un seçim bilgileri hakkında hatalı bulgular ürettiğini ve kaynaklarını yanlış bir şekilde gösterdiğini gösteriyor. AI Forensics ve AlgorithmWatch, 15 Aralık'ta Bing'in AI sohbet robotunun Almanya ve İsviçre'deki siyasi seçimlerle ilgili temel sorulara verdiği yanıtların %30'unun yanlış olduğunu gösteren çalışmayı yayınladı. Yanıtlardaki bu hatalar, adaylar, kamuoyu yoklamaları, tartışmalar ve oylama süreçleri gibi çeşitli konulara değindi. Amerika'nın 2024 başkanlık seçimleriyle ilgili sorular da hatalı yanıtlar aldı.
Araştırmacılar, yanıtlarına kaynakları yerleştiren öncü yapay zeka sohbet robotları arasında yer aldığı için çalışmaları için Bing'in yapay zeka sohbet robotunu seçtiler ve bu yanlışlıkların Bing'e özel olmadığını da sözlerine eklediler. Chat-GPT4 üzerinde yapılan ön testlerin de tutarsızlıklar ortaya çıkardığı bildirildi.
Hayır kurumları, hatalı bilgilerin henüz seçim sonuçlarını etkilemediğini, ancak potansiyel olarak kamuoyunda yanlış anlaşılma ve dezenformasyona yol açabileceğini vurguladı. Açıklamada, "Üretken yapay zekanın artan yaygınlığı, demokrasinin temel direklerinden birini tehdit edebilir: güvenilir ve şeffaf kamu bilgilerinin sağlanması" uyarısında bulunuldu. Araştırma ayrıca, yapay zeka sohbet robotundaki yerleşik güvenlik önlemlerinin eşit derecede etkili olmadığını ve zamanın %40'ında sorulardan kaçmasına neden olduğunu keşfetti.
Wall Street Journal'ın raporla ilgili bir makalesine yanıt olarak Microsoft, Amerika Birleşik Devletleri 2024 seçimlerinden önce sorunları düzeltme sözü verdi. Microsoft sözcüsü, kullanıcılara yapay zeka sohbet robotlarından elde edilen bilgilerin doğruluğunu her zaman sağlamalarını tavsiye etti.
Bu yılın başlarında Ekim ayında, ABD'li senatörler, gerçek kişilerin yetkisiz yapay kopyalarını (canlı veya ölmüş) oluşturanları cezalandıracak bir yasa tasarısı hazırladılar. Facebook ve Instagram'ın ana şirketi Meta, Kasım ayında, gelecekteki seçimlere karşı bir önlem olarak siyasi reklamverenler tarafından reklam oluşturmak için üretken yapay zeka araçlarının kullanılmasını yasaklayan bir yönerge yayınladı.
Published At
12/15/2023 5:57:01 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.