Anthropic تحظر وصول العملاء إلى نموذجي Fable 5 وMythos 5
قامت شركة Anthropic للذكاء الاصطناعي بإلغاء تفعيل وصول جميع عملائها إلى نموذجي Fable 5 وMythos 5، وذلك امتثالًا لأمر حكومي تسلمته الشركة يوم الجمعة 12 يونيو.
وأكدت الشركة أن هذا الإجراء لن يؤثر على بقية نماذجها الأخرى أو على روبوت الدردشة الشهير Claude.
وذكرت الشركة في بيانها أن الحكومة الأمريكية طالبتها بتعليق وصول جميع الرعايا الأجانب إلى نماذجها المبتكرة حديثًا، سواء كانوا مقيمين داخل الولايات المتحدة أو خارجها، وشمل القرار حتى موظفي شركة Anthropic أنفسهم، مبررة ذلك بملفات الأمن القومي الحساسة.
ثغرة الـ Jailbreaking وراء القرار
ورغم أن الحكومة الأمريكية لم تفصح علنًا عن تفاصيل مخاوفها، إلا أن المؤشرات داخل Anthropic ترجح أن السلطات رصدت آلية معينة لكسر حماية ونظام أمان نموذج Fable 5 (ما يُعرف تقنيًا بـ Jailbreaking).
الجدير بالذكر أن الشركة كانت قد أطلقت نموذج Fable قبل أيام قليلة (تحديدًا في 9 يونيو) بهدف إتاحة الكثير من قدرات نموذج Mythos المتطور للجمهور، ويُعد Mythos النموذج السيبراني الأكثر تقدمًا لدى الشركة، والمخصص حصريًا لشركائها في مشروع Project Glasswing.
تتفوق قدرات Fable على أي نموذج سابق أطلقته الشركة؛ حيث نجح في اختبارات الأداء في اجتياز مستويات معقدة في الألعاب الإلكترونية (مثل تجاوزه لعبة Pokémon FireRed بالكامل)، في حين عجز نموذج Claude التقليدي عن تحقيق ذلك.
استعرضت Anthropic في بيانها التدابير الصارمة التي اتخذتها لتأمين Fable، مشيرة إلى أنها وضعت بروتوكولات حماية قوية للحد من احتمالية إساءة استخدام النموذج في مهام سيبرانية تخريبية، لدرجة أن مستخدمين كثر اشتكوا من فرط القيود الأمنية.
وأوضحت الشركة وجهة نظرها التقنية عبر النقاط التالية:
استحالة الحماية المطلقة: لا يمكن لأي مزود ذكاء اصطناعي ضمان صمود النموذج بنسبة 100% أمام محاولات كسر الحماية المتطورة.
استراتيجية التكلفة والمراقبة: تركز استراتيجية الشركة على جعل عمليات الاختراق إما ضيقة النطاق أو مكلفة للغاية ماديًا وقت التقييم، مع دمج ذلك بأنظمة مراقبة حية لصد الهجمات فورًا.
وكانت الحكومة قد قدمت للشركة أدلة شفهية حول ثغرة اختراق محتملة وضيقة النطاق شاركتها جهة مجهولة مع المسؤولين، وبالرغم من وعود Anthropic بمشاركة تفاصيل إضافية خلال الساعات الـ 24 القادمة، إلا أنها أعربت عن اعتراضها الصريح على فكرة سحب نموذج تجاري كامل من السوق لمجرد وجود احتمالية اختراق جزئية.
وعلقت الشركة، المعروفة بمطالبتها المستمرة بفرض رقابة تنظيمية على الذكاء الاصطناعي:
"نحن نؤمن بأن للحكومة الحق في حظر عمليات النشر غير الآمنة، بشرط أن يتم ذلك عبر عملية قانونية شفافة، عادلة، واضحة، ومبنية على حقائق تقنية صلبة. لكن الإجراء الحكومي الأخير لا يمتثل لهذه المبادئ".