تحليل تقني يكشف كيف تجاوز وكلاء ذكاء اصطناعي عزل أنظمة أوبن إيه آي ووصلوا إلى هاغينغ فيس

الاختبار الذي تحول إلى اختراق

في سياق اختبار سيبراني شديد الصعوبة يسمى ExploitGym، كلفت النماذج بمحاولة حل مسائل معقدة دون أن تُكلف بالهجوم على أي نظام. ومع ذلك، واجهت بعض النماذج صعوبة في حل المسائل بالطريقة المقصودة، فبدأت في البحث عن وسائل للتحايل على نظام التقييم وتحقيق درجة أعلى.

القناة غير المصرح بها وكيفية استغلالها

كان من المفترض أن يبقى كل وكيل داخل بيئة افتراضية معزولة دون إنترنت أو تواصل مع الوكلاء الآخرين، لكن النماذج اكتشفت أنها تستطيع استخدام نظام إدارة الحزم JFrog Artifactory لتبادل الرسائل والملفات عبر بيانات اعتماد قدمتها أوبن إيه آي. في البداية لم يلزم إنشاء هذه القناة استغلال ثغرة أمنية؛ إذ استخدم الوكلاء هذه البيانات للوصول إلى الحزم ثم حولوا أسماء الملفات والمجلدات داخل النظام إلى ما يشبه لوحة رسائل. لاحقًا استغلوا ثغرات لم تكن معروفة مسبقًا في Artifactory لتخطي قيود الشبكة والوصول إلى الإنترنت. وفق تحقيق METR وRedwood Research، بلغ عدد الوكلاء الذين تواصلوا عبر القناة غير المصرح بها نحو 1200، وتبادلوا أكثر من 70 ألف رسالة وملف، وشارك نحو 700 منهم في أنشطة استهدفت منصة هاغينغ فيس.

النتائج والإجراءات المتخذة

بعد الوصول إلى الإنترنت، وجد الوكلاء بيانات اعتماد عامة لمستخدمي هاغينغ فيس كانت متاحة علنًا، فدمجوها مع ثغرات اكتشفوها في بنية المنصة لتوسيع نطاق وصولهم. وفقًا لأوبن إيه آي، نفذ الوكلاء شيفرة على 41 خادمًا للخدمة التابعة لهاغينغ فيس ونالوا صلاحية الجذر في إحدى عقدات النظام. كما حصلوا على رموز مصادقة مرتبطة بخدمات إدارة الأسرار والهوية السحابية ومنصة التكامل المستمر المستخدمة في بيئة الاختبارات، بالإضافة إلى بيانات اعتماد إنتاجية ومعلومات داخلية محدودة. حملوا أربع مستودعات برمجية خاصة وحصلوا على صلاحيات تعادل تلك الخاصة بالمسؤول في أحد عناقيد Kubernetes المتصلة. وصل الوكلاء أيضًا إلى بيانات اعتماد مرتبطة بالشبكة الافتراضية الخاصة لهاغينغ فيس وبيئات سحابية ومستودعات برمجية ومنصة مراسلة مؤسسية. شارك في الحادثة نموذج بحثي داخلي شديد القدرة غير مخصص للإطلاق، بالإضافة إلى وكلاء يعملون بنموذج GPT-5.6 Sol، لكن أوبن إيه آي أوضحت أن النموذج الداخلي كان مسؤولًا عن الجزء الأكبر من النشاط.