قدامى المحاربين في OpenAI وشريك Y Combinator يطلقون "Safe Superintelligence، Inc." لتعزيز سلامة الذكاء الاصطناعي
Summary:
تعاون إيليا سوتسكيفر ، كبير العلماء السابق في OpenAI ، ودانيال ليفي ، مهندس OpenAI السابق ، مع دانيال جروس ، الشريك السابق لمسرع بدء التشغيل Y Combinator ، لإطلاق Safe Superintelligence، Inc. (SSI). تهدف الشركة التي تتخذ من الولايات المتحدة مقرا لها إلى تعزيز سلامة وقدرات الذكاء الاصطناعي (الذكاء الاصطناعي). إلى جانب المخاوف بشأن سلامة الذكاء الاصطناعي ، دعا موظفو OpenAI السابقون وشخصيات التكنولوجيا الرئيسية ، بما في ذلك المؤسس المشارك ل Ethereum Vitalik Buterin ، والرئيس التنفيذي لشركة Tesla Elon Musk ، والمؤسس المشارك لشركة Apple Steve Wozniak ، إلى توقف التدريب الذكاء الاصطناعي للنظر في المخاطر المحتملة.
تعاون إيليا سوتسكيفر ، كبير العلماء السابق والمؤسس المشارك ل OpenAI ، جنبا إلى جنب مع دانيال ليفي ، مهندس OpenAI السابق ، مع دانيال جروس ، الشريك السابق في مسرع بدء التشغيل Y Combinator ، لإطلاق Safe Superintelligence، Inc. (SSI). ينعكس تركيز هذا المشروع الجديد ومنتجه في عنوانه. تهدف مباحث أمن الدولة، التي لها وجود في بالو ألتو وتل أبيب في الولايات المتحدة، إلى دفع الذكاء الاصطناعي (الذكاء الاصطناعي) إلى الأمام من خلال التطوير المشترك لتدابير وقدرات السلامة، كما أعلن الثلاثي المؤسس في 19 يونيو عبر الإنترنت. وشددوا على تركيزهم الفريد على تجنب الانحرافات الناجمة عن مسائل الإدارة أو دورات المنتج ، مع نموذج أعمال يضمن حماية السلامة والأمن والتقدم من التأثيرات التجارية قصيرة الأجل.
قبل مغادرة OpenAI في 14 مايو ، شارك Sutskever ، مع Gross ، المخاوف المتعلقة بسلامة الذكاء الاصطناعي. لعب Sutskever دورا غامضا في الشركة بعد ترك مجلس إدارتها بعد إعادة الرئيس التنفيذي Sam Altman. كان دانيال ليفي من بين الباحثين الذين غادروا OpenAI بعد فترة وجيزة من Sutskever. قاد Sutskever و Jan Leike فريق Superalignment في OpenAI ، الذي تم تشكيله في يوليو 2023 ، لدراسة كيفية توجيه الأنظمة الذكاء الاصطناعي أكثر ذكاء منا والتحكم فيها ، والتي يشار إليها باسم الذكاء العام الاصطناعي (AGI). خلال إنشائها ، خصصت OpenAI 20٪ من قدرتها الحسابية لهذا الفريق.
ومع ذلك ، غادر Leike أيضا المنظمة في مايو ويقود الآن فريقا في Anthropic ، وهي شركة ناشئة الذكاء الاصطناعي تدعمها Amazon. جادلت الشركة باحتياطات السلامة الخاصة بها في منشور X مفصل من رئيس الشركة جريج بروكمان لكنها حلت فريق Superalignment بعد مغادرة باحثيها في مايو.
محققو OpenAI السابقون ليسوا وحدهم الذين يعبرون عن مخاوفهم بشأن مسار الذكاء الاصطناعي المستقبلي. وسط خلط الموظفين في OpenAI ، وصف المؤسس المشارك ل Ethereum Vitalik Buterin AGI بأنها "محفوفة بالمخاطر". ومع ذلك ، فقد شارك أيضا أن مثل هذه النماذج أقل بكثير من "خطر الهلاك" من جشع الشركات والقوات المسلحة.
انضم الداعم السابق ل OpenAI ، الرئيس التنفيذي لشركة Tesla Elon Musk ، والمؤسس المشارك لشركة Apple Steve Wozniak إلى أكثر من 2,600 من خبراء التكنولوجيا والباحثين الذين يطلبون لمدة ستة أشهر للتدريب على نظام الذكاء الاصطناعي للتفكير في "المخاطر العميقة" التي يحملها.
كما ذكر إعلان إطلاق مباحث أمن الدولة أن الشركة تتطلع إلى توظيف باحثين ومهندسين.
Published At
6/20/2024 12:45:47 AM
Disclaimer: Algoine does not endorse any content or product on this page. Readers should conduct their own research before taking any actions related to the asset, company, or any information in this article and assume full responsibility for their decisions. This article should not be considered as investment advice. Our news is prepared with AI support.
Do you suspect this content may be misleading, incomplete, or inappropriate in any way, requiring modification or removal?
We appreciate your report.