OpenAI تمنح الحكومة الأمريكية الوصول المبكر إلى نموذج الذكاء الاصطناعي التالي

كشف سام ألتمان في تغريدة أن شركة OpenAI ستمنح معهد سلامة الذكاء الاصطناعي الأمريكي الوصول المبكر إلى نموذجه التالي كجزء من جهوده في مجال السلامة.

 ويبدو أن الشركة تعمل مع الكونسورتيوم "لدفع علم تقييمات الذكاء الاصطناعي إلى الأمام".

 أنشأ المعهد الوطني للمعايير والتكنولوجيا (NIST) رسميًا معهد سلامة الذكاء الاصطناعي في وقت سابق من هذا العام، على الرغم من أن نائبة الرئيس كامالا هاريس أعلنت عن ذلك في عام 2023 في قمة سلامة الذكاء الاصطناعي في المملكة المتحدة.

 استنادًا إلى وصف المعهد الوطني للمعايير والتكنولوجيا للكونسورتيوم، فإنه يهدف إلى "تطوير إرشادات ومعايير قائمة على العلم ومدعومة تجريبياً لقياس الذكاء الاصطناعي والسياسات، ووضع الأساس لسلامة الذكاء الاصطناعي في جميع أنحاء العالم".

وتعهدت الشركة، جنبًا إلى جنب مع DeepMind، بمشاركة نماذج الذكاء الاصطناعي مع حكومة المملكة المتحدة العام الماضي. وكما يشير موقع TechCrunch، كانت هناك مخاوف متزايدة من أن شركة OpenAI تجعل السلامة أقل أولوية حيث تسعى إلى تطوير نماذج ذكاء اصطناعي أكثر قوة. كانت هناك تكهنات بأن مجلس الإدارة قرر طرد سام ألتمان من الشركة - أعيد تعيينه بسرعة كبيرة - بسبب مخاوف تتعلق بالسلامة والأمن. ومع ذلك، أخبرت الشركة أعضاء الموظفين في مذكرة داخلية في ذلك الوقت، أن ذلك كان بسبب "انهيار في الاتصالات".

في مايو من هذا العام، اعترفت شركة OpenAI بأنها حلت فريق Superalignment الذي أنشأته لضمان بقاء البشرية آمنة مع تقدم الشركة في عملها على الذكاء الاصطناعي التوليدي. 

قبل ذلك، ترك الشركة المؤسس المشارك لشركة OpenAI ورئيس العلماء إيليا سوتسكيفر، الذي كان أحد قادة الفريق. كما استقال جان لايكي، الذي كان أيضًا أحد قادة الفريق.

 وقال في سلسلة من التغريدات إنه كان يختلف مع قيادة OpenAI بشأن الأولويات الأساسية للشركة لبعض الوقت وأن "ثقافة السلامة والعمليات أصبحت في مرتبة ثانوية للمنتجات اللامعة". أنشأت OpenAI مجموعة سلامة جديدة بحلول نهاية مايو، لكنها بقيادة أعضاء مجلس الإدارة بما في ذلك ألتمان، مما أثار مخاوف بشأن الرقابة الذاتية.

بعض التحديثات السريعة حول السلامة في openai:

كما ذكرنا في يوليو الماضي، نحن ملتزمون بتخصيص ما لا يقل عن 20% من موارد الحوسبة لجهود السلامة في جميع أنحاء الشركة.

كان فريقنا يعمل مع معهد سلامة الذكاء الاصطناعي الأمريكي على اتفاقية حيث سنوفر.