شراكة بين OpenAI وMicrosoft لإحباط الهجمات الإلكترونية التابعة للدولة التي تستغل أدوات الذكاء الاصطناعي
Summary:
تعاونت OpenAI و Microsoft لإحباط خمس هجمات إلكترونية تابعة للدولة استغلت نماذج لغوية كبيرة ، بما في ذلك GPT-4 من OpenAI. وتهدف الهجمات، المرتبطة بالصين وإيران وكوريا الشمالية وروسيا، إلى الاستفادة من الذكاء الاصطناعي في مختلف الأنشطة السيبرانية، مما دفع أوبن إيه آي إلى تعزيز إجراءاتها الدفاعية. على الرغم من الجهود المستمرة التي تبذلها OpenAI وغيرها لمعالجة الأمن السيبراني الذكاء الاصطناعي ، إلا أن التهديدات لا تزال قائمة ، مما دفع أكثر من 200 منظمة للانضمام أو تشكيل مبادرات تركز على تعزيز سلامة الذكاء الاصطناعي ومعالجة قضايا الأمن السيبراني.
تعاونت OpenAI ، المنظمة التي تقف وراء برنامج ChatGPT الشهير ، مع المستثمر الرئيسي Microsoft لدرء خمس هجمات إلكترونية مدعومة من الحكومة بنجاح. ويهدف القراصنة، المرتبطون بمجموعة مختارة من القوى الأجنبية، بما في ذلك المخابرات العسكرية الروسية، والحرس الثوري الإيراني، فضلا عن الحكومتين الصينية والكورية الشمالية، إلى صقل مهاراتهم باستخدام نماذج لغوية كبيرة (LLMs)، وهي أنظمة متطورة تعتمد على الذكاء الاصطناعي يمكن أن تولد استجابات شبيهة بالإنسان بشكل مثير للإعجاب من خلال تحليل البيانات النصية الشاملة.
حددت OpenAI الاختراقات السيبرانية على أنها نشأت من مجموعتين صينيتين تعرفان باسم Charcoal Typhoon و Salmon Typhoon. ارتبطت محاولات التسلل الأخرى مع إيران من خلال Crimson Sandstorm ، وكوريا الشمالية عبر Emerald Sleet ، وروسيا من خلال Forest Blizzard. وفقا ل OpenAI ، سعت المجموعات إلى استخدام GPT-4 لمهام مختلفة تتراوح بين أبحاث أدوات الشركات والأمن السيبراني ، وإنشاء البرامج النصية ، وتصحيح التعليمات البرمجية ، وتنظيم حملات التصيد الاحتيالي ، والتهرب من اكتشاف البرامج الضارة ، وترجمة الأوراق الفنية المعقدة واستكشاف الاتصالات عبر الأقمار الصناعية وتكنولوجيا الرادار. وأدى الكشف عن هذه الأنشطة إلى تعليق الحسابات المعنية.
جاء هذا الاكتشاف في الوقت الذي كانت فيه OpenAI تتحرك لفرض حظر شامل على استخدام منتجات الذكاء الاصطناعي من قبل شبكات القرصنة التي ترعاها الدولة. على الرغم من نجاحها في إحباط هذه المحاولات المحددة ، أدركت الشركة الصعوبة المستمرة في إحباط كل سوء استخدام محتمل.
في أعقاب زيادة حدوث التزييف العميق والاحتيال الناتج عن الذكاء الاصطناعي بعد إدخال ChatGPT ، زاد المشرعون من مراقبتهم لمطوري الذكاء الاصطناعي التوليدية. لدعم التقدم في مجال الأمن السيبراني الذكاء الاصطناعي ، أعلنت OpenAI عن برنامج منح بقيمة 1 مليون دولار في يونيو 2023 يهدف إلى تعزيز وقياس تأثير حلول الأمن السيبراني القائمة على الذكاء الاصطناعي.
على الرغم من هذه الإجراءات الدفاعية والجهد المستمر لتجنب إنشاء محتوى ضار أو غير مناسب بواسطة ChatGPT ، لا يزال المتسللون يجدون طرقا للتغلب على هذه الحواجز ، والتلاعب ب chatbot لإنشاء مثل هذا المحتوى.
دخلت أكثر من 200 منظمة ، من بينها OpenAI و Microsoft و Anthropic و Google ، مؤخرا في شراكة مع إدارة بايدن لتشكيل معهد السلامة الذكاء الاصطناعي واتحاد معهد السلامة الذكاء الاصطناعي الأمريكي (AISIC). تم تصميم المسعى الجماعي لتعزيز التطور الآمن للذكاء الاصطناعي ، ومواجهة التزييف العميق الذكاء الاصطناعي الإنتاج ، والاهتمام بتحديات الأمن السيبراني. تأتي هذه المبادرة في أعقاب إطلاق معهد السلامة الذكاء الاصطناعي الأمريكي (USAISI) ، الذي تم إنشاؤه في أعقاب الأمر التنفيذي الذي أصدره الرئيس جو بايدن في أواخر أكتوبر 2023 والذي يركز على سلامة الذكاء الاصطناعي.
Published At
2/15/2024 11:46:18 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.