الميزات العصبية الجديدة في الأنظمة الذكاء الاصطناعي قد تحل مشكلة الهلوسة الذكاء الاصطناعي
Summary:
يمكن حل هلوسة الذكاء الاصطناعي (الذكاء الاصطناعي) ، وهي مشكلة صناعية رئيسية ، من خلال الميزات العصبية المكتشفة حديثا. هذه الهلوسة هي بيانات غير صحيحة تم إنتاجها أثناء تدريب نماذج اللغة الذكاء الاصطناعي الكبيرة. يسلط الرئيس التنفيذي لشركة Anthropic ، داريو أمودي ، الضوء على أن هذه الميزات العصبية تسمح بالتدخل وتغيير أنظمة الذكاء الاصطناعي. تدرس الشركة تأثير تعديل هذه الميزات لتعديل سلوك الذكاء الاصطناعي. علاوة على ذلك ، لم يعد التقدم في تطوير الذكاء الاصطناعي يعتمد في المقام الأول على البيانات ولكن على المواهب بسبب ظهور مجموعات البيانات الاصطناعية ، وفقا ل Amodei.
يمكن للجوانب المكتشفة حديثا من الأداء العصبي لأنظمة الذكاء الاصطناعي (الذكاء الاصطناعي) أن تعالج مشكلة مستمرة تعرف باسم الهلوسة الذكاء الاصطناعي. مثل هذه الهلوسة هي نتائج غير متوقعة تنتج عندما يتم تدريب نماذج لغوية أكبر على الأداء كأنظمة الذكاء الاصطناعي توليدية. تولد هذه النماذج أحيانا بيانات جديدة ، وإن كانت غير صحيحة ، لم تكن في السابق جزءا من مجموعة البيانات الخاصة بها. ومع ذلك ، يمكن أن تكون هذه الميزات العصبية الجديدة هي الحل لهذه المشكلة ، كما يقول المؤسس المشارك والرئيس التنفيذي لشركة Anthropic ، داريو أمودي.
في خطاب ألقاه في وظيفة Viva Tech في باريس في عام 2024 ، ذكر Amodei أن أنظمة الذكاء الاصطناعي المعاصرة تضم مئات الملايين من الخلايا العصبية. وسلط الضوء على اكتشاف 30 مليون ميزة ضمن نموذجهم ، بما في ذلك تلك المرتبطة بنقاط الضعف الأمنية أو التحيز ضد مجموعات معينة. وقد اكتسبت الآن القدرة على التدخل وتغيير هذه الميزات.
المشكلة في الهلوسة هي أن الذكاء الاصطناعي العمليات لا تدرك أن مخرجاتها غير صحيحة. لكن أمودي يطمئن إلى أن هذه الميزات الجديدة يمكن أن تضع حدا للهلوسة الذكاء الاصطناعي. ويؤكد: "تشمل المزايا الأساسية لهذا الاكتشاف الجديد الحد من حالات هلوسة الذكاء الاصطناعي".
البحث جار حاليا في Anthropic لاستكشاف كيف يمكن لتعديل الميزات الداخلية أن يغير سلوك الذكاء الاصطناعي. لقد تمكنوا من إنشاء نموذج توضيحي حيث تسببت إحدى الميزات الفريدة في تركيز الذكاء الاصطناعي بشكل كبير على جسر البوابة الذهبية. في 23 مايو ، أعربت أنثروبيك عن ثقتها في منشور X ، "إن القدرة على تحديد وتعديل هذه الميزات داخل كلود تعزز ثقتنا في البدء في فهم كيفية عمل نماذج اللغة الشاملة حقا."
قدمت شركة Anthropic ، وهي شركة تطوير الذكاء الاصطناعي محترمة ، الذكاء الاصطناعي روبوت الدردشة الخاص بها ، كلود ، إلى السوق الأوروبية في وقت سابق من شهر مايو. متوفر من خلال تطبيق الويب وتطبيق iOS ، يدعم كلود العديد من اللغات الأوروبية مثل الفرنسية والألمانية والإسبانية والإيطالية منذ 14 مايو.
يعتمد نمو الذكاء الاصطناعي على المواهب ولم يعد البيانات ، وفقا ل Amodei. كانت ندرة البيانات في السابق تعوق تطوير الذكاء الاصطناعي ، لكن إنشاء مجموعات البيانات التركيبية حول العقبة الرئيسية أمام نقص مهارات المطورين. تبشر البيانات التركيبية بقابلية التوسع الذكاء الاصطناعي ، لكن Amodei حذر من وجود نسبة متوازنة بين البيانات التركيبية وبيانات العالم الحقيقي ، حيث قد تؤدي البيانات التركيبية الزائدة إلى مجموعات بيانات أضعف وغير واقعية.
شهدت الاستثمارات في الذكاء الاصطناعي ارتفاعا كبيرا منذ بداية عام 2024 ، حيث حصلت شركة Elon Musk على 6 مليارات دولار في تمويل السلسلة B في 27 مايو. يهدف هذا التمويل إلى وضع روبوت الدردشة Grok الخاص به كمنافس ل ChatGPT بحلول نهاية العام.
Published At
5/29/2024 12:49:21 PM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.