مساعد روبوت الدردشة الذكاء الاصطناعي من Microsoft متورط في نشر معلومات سياسية مضللة
Summary:
يشير تقرير صادر عن المنظمات غير الربحية الأوروبية الذكاء الاصطناعي Forensics و AlgorithmWatch إلى أن روبوت الدردشة الذكاء الاصطناعي من Microsoft ، Copilot ، ينشر معلومات الانتخابات بشكل غير دقيق ويخطئ في اقتباسها. استجاب الروبوت بشكل خاطئ ل 30٪ من أسئلة الانتخابات السياسية الأساسية في دراسة ، مما قد يؤدي إلى معلومات مضللة. لا تقتصر الأخطاء على مساعد الطيار. كشفت الاختبارات الأولية عن نتائج مماثلة في Chat-GPT4. في حين أن هذه لم تؤثر على النتائج بعد ، إلا أنها يمكن أن تؤثر على فهم الجمهور وثقته. كما أن ضمانات الذكاء الاصطناعي تتهرب بشكل غير متسق من الأسئلة. تهدف Microsoft إلى حل المشكلات قبل الانتخابات الأمريكية لعام 2024.
تشير الأبحاث التي أجرتها مجموعتان غير ربحيتين مقرهما في أوروبا إلى أن روبوت الدردشة الذكاء الاصطناعي الذي أعادت تسميته من Microsoft ، Copilot ، المعروف سابقا باسم Bing ، يولد نتائج خاطئة حول المعلومات الانتخابية ويستشهد بمصادرها بشكل غير صحيح. أصدرت الذكاء الاصطناعي Forensics و AlgorithmWatch الدراسة في 15 ديسمبر ، مشيرة إلى أن 30٪ من ردود الذكاء الاصطناعي chatbot الخاصة ب Bing على الأسئلة البدائية حول الانتخابات السياسية في ألمانيا وسويسرا كانت غير صحيحة. تطرقت هذه الأخطاء في الردود إلى مواضيع مختلفة مثل المرشحين واستطلاعات الرأي والخلافات وعمليات التصويت. كما تلقت الأسئلة حول الانتخابات الرئاسية الأمريكية لعام 2024 ردودا معيبة.
اختار الباحثون روبوت الدردشة الذكاء الاصطناعي من Bing لدراستهم لأنه كان من بين روبوتات الدردشة الرائدة الذكاء الاصطناعي تضمين المصادر في ردودهم ، مضيفين أن هذه الأخطاء لم تكن حصرية ل Bing. كما كشفت الاختبارات الأولية على Chat-GPT4 عن تناقضات ، حسبما ذكروا.
وشددت المنظمات الخيرية على أن المعلومات الخاطئة لم تؤثر بعد على نتائج الانتخابات، ولكن من المحتمل أن تؤدي إلى سوء فهم عام وتضليل. وحذر البيان من أن "الانتشار المتزايد الذكاء الاصطناعي التوليدية قد يهدد ركيزة أساسية للديمقراطية: توفير معلومات عامة موثوقة وشفافة". اكتشف البحث أيضا أن الضمانات المدمجة في الذكاء الاصطناعي chatbot لم تكن فعالة بشكل موحد ، مما دفعه إلى تجنب الأسئلة بنسبة 40٪ من الوقت.
ردا على مقال نشرته صحيفة وول ستريت جورنال حول التقرير ، تعهدت مايكروسوفت بتصحيح المشكلات قبل انتخابات الولايات المتحدة 2024. نصح متحدث باسم Microsoft المستخدمين بضمان دقة المعلومات المكتسبة من الذكاء الاصطناعي chatbots في جميع الأوقات.
في أكتوبر في وقت سابق من هذا العام ، قدم أعضاء مجلس الشيوخ الأمريكي مشروع قانون من شأنه معاقبة منشئي النسخ الاصطناعية غير المصرح بها لأشخاص حقيقيين - أحياء أو متوفين. أصدرت Meta ، الشركة الأم ل Facebook و Instagram ، توجيها في نوفمبر يحظر استخدام أدوات الذكاء الاصطناعي التوليدية لإنشاء الإعلانات من قبل المعلنين السياسيين كضمان ضد الانتخابات المستقبلية.
Published At
12/15/2023 5:57:01 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.