نقاط الضعف لدى الذكاء الاصطناعي المساعدين والمخاوف الأمنية المتزايدة: هل بياناتنا آمنة؟
Summary:
يناقش المقال المخاوف الأمنية المتزايدة في مشهد مساعد الذكاء الاصطناعي (الذكاء الاصطناعي). ويسلط الضوء على سلسلة من الدراسات التي توضح نقاط الضعف المحتملة ومخاطر الاختراق المرتبطة بهذه الأدوات. يشدد المؤلف على ضرورة أن يعطي المطورون الأولوية للجانب الأمني الذكاء الاصطناعي واتخاذ إجراءات تنظيمية فورية. يقترح المقال أيضا أن يحد المستخدمون من مشاركة المعلومات الحساسة مع مساعدي الذكاء الاصطناعي حتى يتم اتخاذ إجراءات وقائية كبيرة.
كان إطلاق ChatGPT في أواخر عام 2022 بمثابة نقطة حاسمة في التكنولوجيا حيث حقق الذكاء الاصطناعي (الذكاء الاصطناعي) قفزة كبيرة في الاتجاه السائد. ردا على ذلك ، سواء كانوا عمالقة التكنولوجيا أو الشركات الناشئة الناشئة ، حاول الجميع الاستفادة من هذا الاتجاه الذكاء الاصطناعي من خلال الكشف عن مجموعة متنوعة من مساعدي الذكاء الاصطناعي. لقد تحولت هذه المساعدات الافتراضية إلى مستشارينا ورفاقنا والمقربين السريين في كل من الجوانب المهنية والشخصية من حياتنا. وبالتالي ، نحن نثق بهم بمعلومات حساسة. ومع ذلك ، فإن وعدهم بحماية معلوماتنا يثير سؤالا مهما - هل نحن محميون حقا؟
كشفت دراسة أجرتها جامعة بير غوريون في شهر مارس عن حقيقة مقلقة: قد لا تكون أسرارنا آمنة كما نعتقد. كشف الباحثون عن طريقة هجوم يمكنها فك تشفير استجابات المساعد الذكاء الاصطناعي بدقة تنذر بالخطر ، مما يدل على وجود خلل خطير في تصميم النظام عبر منصات متعددة مثل Copilot من Microsoft و ChatGPT-4 من OpenAI ، باستثناء Gemini من Google.
من المثير للقلق أن نلاحظ أن الباحثين يمكنهم تطبيق نفس أداة فك التشفير - بمجرد إنشائها لخدمة مثل ChatGPT - لفك تشفير الأنظمة الأساسية الأخرى دون بذل جهود إضافية. تم الكشف عن نقاط ضعف مماثلة في أنظمة المساعدة الذكاء الاصطناعي لبعض الوقت. في الآونة الأخيرة ، في عام 2023 ، أظهر تحالف من الباحثين من مختلف الجامعات الأمريكية و Google DeepMind أنه من خلال مطالبة ChatGPT بتكرار كلمات محددة ، يمكنه تسريب أجزاء من بيانات التدريب المحفوظة ، بما في ذلك معرفات المستخدم وعناوين URL وعناوين Bitcoin والمزيد.
تصبح مشكلات الأمان هذه أكثر وضوحا مع النماذج مفتوحة المصدر. سلطت دراسة حالة حديثة الضوء على قدرة المهاجم على التسلل إلى خدمة تحويل Hugging Face والاستيلاء على أي نموذج يتم تقديمه من خلالها. وهذا يشكل تهديدات كبيرة حيث يمكن للخصوم أن يحلوا محل النماذج الضارة أو يزرعوها ، مما يعرض مجموعات البيانات الخاصة.
إن التأثير المتزايد لمساعدي الذكاء الاصطناعي جذاب بلا شك. ولكن مع زيادة القوة تأتي زيادة التعرض للهجمات. بالتفكير في هذا الأمر في منشور مدونة حديث ، رسم بيل جيتس صورة لمساعد الذكاء الاصطناعي شامل أو "وكيل" يمكنه الوصول إلى جميع أجهزتنا ، وبالتالي اكتساب رؤى شاملة في حياتنا. ومع ذلك، ومع الشواغل الأمنية التي لم تتم معالجتها والتي ابتليت بها الساحة الذكاء الاصطناعي، فإننا نخاطر باختطاف حياتنا، بما في ذلك حياة أي فرد أو كيان مرتبط بها، إذا وقع هؤلاء العملاء في الأيدي الخطأ.
وعلى الرغم من الشواغل التي تلوح في الأفق، فإننا لسنا عاجزين. في أواخر مارس، فرض مجلس النواب الأمريكي حظرا صارما على استخدام مساعد الطيار من مايكروسوفت من قبل موظفي الكونغرس.الذكاء الاصطناعي جاءت هذه الخطوة في أعقاب تقرير مجلس مراجعة السلامة على الإنترنت في أبريل الذي حمل Microsoft المسؤولية عن الرقابة الأمنية التي أدت إلى خرق البريد في صيف 2023 الذي أثر على مسؤولي الحكومة الأمريكية.
في الماضي ، حظر عمالقة التكنولوجيا مثل Apple و Amazon و Samsung و Spotify ، بالإضافة إلى عمالقة المال مثل JPMorgan و Citi و Goldman Sachs استخدام الروبوتات لموظفيهم. تعهدت الجهات الفاعلة المعروفة في مجال الذكاء الاصطناعي ، Microsoft و OpenAI علنا بالتزامها بممارسات الذكاء الاصطناعي المسؤولة في العام الماضي. ومع ذلك، لا يزال يتعين رؤية إجراءات ملموسة.
والالتزامات بداية طيبة ولكن يجب دعمها بالعمل. كمستهلكين ، ربما تكون الخطوة الأكثر استباقية التي يمكننا اتخاذها هي ممارسة السلطة التقديرية عند مشاركة المعلومات الحساسة مع الذكاء الاصطناعي الروبوتات. قد يكون إيقاف استخدام هذه الروبوتات مؤقتا حتى يتم اتخاذ تدابير وقائية كافية هو مجرد دفعة مطلوبة لدفع الشركات والمطورين إلى إعطاء الأولوية للأمن في أنظمة الذكاء الاصطناعي.
Published At
4/10/2024 11:30:34 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.