نماذج ذكاء اصطناعي تخترق شركات حقيقية دون علم مطوريها.. مخاوف أمنية تدفع البيت الأبيض للتدخل
أعلنت شركتا “أوبن إيه آي” و”أنثروبيك” أن نماذج ذكاء اصطناعي صُممت خصيصاً لاختبار الأمن السيبراني قد تجاوزت الحدود المقررة في الاختبارات، وقامت بشن هجمات إلكترونية على شركات قائمة في العالم الحقيقي، من دون أن يكون مطوروها على علم بذلك أو يشرفون عليها. وقد أثار هذا الكشف موجة من القلق في الأوساط الأمنية.
وبحسب ما نشرته صحيفة “وول ستريت جورنال” الأميركية، فإن هذه النماذج التابعة لكل من “أوبن إيه آي” و”أنثروبيك”، والتي جرى تصميمها أساساً لتنفيذ اختراقات، شنت هجمات متسلسلة بعد أن أُخرجت من بيئة الاختبارات المغلقة، وذلك ابتداءً من شهر أبريل.
ولم ينتبه المطورون إلى هذه العمليات إلا في الأسبوع المنصرم، حين كشفت “أوبن إيه آي” عن تعرض شركة “هاغينغ فايس” المتخصصة في الذكاء الاصطناعي للاختراق في شهر يوليو. وفي اليوم الخميس، أعلنت “أنثروبيك” أنها رصدت ثلاثة اختراقات أخرى قامت بها نماذجها الخاصة.
غضب تشريعي وتحرك حكومي
أثار هذا الإفصاح المزدوج استياء واسعاً بين أعضاء الكونغرس، حيث استخدمه البعض دليلاً على ضرورة فرض أنظمة رقابية جديدة أو إجراءات اختبار أكثر صرامة. كما مثّل الحدث لحظة مفصلية بالنسبة لعدد من موظفي المختبرات المعنية بهذا المجال.
وفي تصريح له خلال بودكاست، قال سام ألتمان، الرئيس التنفيذي لـ”أوبن إيه آي”: “هذه أول حادثة أمنية أشعر بها بعمق شديد. لقد أدهشني ألا يشعر بها عدد أكبر من الناس بنفس القدر من العمق”، معتبراً اختراق شركته بأنه “حادث إلكتروني خيالي للغاية”.
وفي إشارة إلى تشديد البيت الأبيض رقابته على الذكاء الاصطناعي، أعلنت الإدارة وضع إطار عمل يحدد النماذج التي ستُعرض على الحكومة الفيدرالية للمراجعة قبل إتاحتها للجمهور، وفق ما نقله مسؤول في البيت الأبيض. وأوضح المسؤول أن المناقشات مع الشركات حول كيفية المضي قدماً في الاختبارات الطوعية لا تزال جارية.
نقاط تحول في عالم الهجمات الإلكترونية
وقال جوشوا ساكس، كبير مسؤولي التكنولوجيا في شركة “أبوندنت سيكيوريتي” المتخصصة في أمن الذكاء الاصطناعي: “من المرجح أن تُعتبر هذه الحوادث، عند النظر إليها في المستقبل، نقاط تحول في أساليب المهاجمين. إنه وضع بالغ الخطورة، وهذه الحوادث تظهر ذلك بوضوح”.
وفي ديسمبر، استخدم باحثون من جامعة ستانفورد أحدث تقنيات الذكاء الاصطناعي لإظهار نماذج قادرة على تحقيق مستويات اختراق تقترب من القدرات البشرية على شبكة حقيقية. وقد واجه هذا البحث معارضة من قراصنة محترفين يُعرفون باسم “مختبري الاختراق”، وهم أشخاص تُوظفهم الشركات لاختراق شبكاتها الداخلية لمساعدتها على اكتشاف نقاط ضعفها.
وقال دونوفان جاسبر، أحد الباحثين المشاركين في المشروع: “في ذلك الوقت، كانت نتائجنا موضع جدل. قال الناس إنهم يستطيعون تحقيق نتائج أفضل”. ويرى جاسبر أن اكتشافات “أنثروبيك” و”أوبن إيه آي” تمثل تأكيداً لأبحاث فريقه السابقة، مضيفاً: “الذكاء الاصطناعي يتحسن كثيراً في هذا المجال”.
مراقبة بشرية وأدوات غير كافية
وكان أكبر ما يقلق باحثي جامعة ستانفورد أثناء اختباراتهم هو أن نماذج الاختراق التي ابتكروها قد تقوم بطريقة ما بأمر لم تُصمم من أجله. وقال جاسبر: “طوال فترة تشغيلها، كان هناك شخص واحد على الأقل يراقبها”.
ولم تكن شركة “هاغينغ فايس” مستعدة للهجوم الآلي الذي شنته نماذج “أوبن إيه آي”. وحاولت الشركة استخدام نموذج “كلود” لتحليل الكم الهائل من البيانات التي أنتجتها نماذج “أوبن إيه آي”، لكن النموذج رفض إجراء التحليل معللاً ذلك بأسباب أمنية. وتمكنت الشركة في النهاية من استخدام نماذج مفتوحة الأوزان، التي يمكن تشغيلها على أنظمة يتحكم بها المستخدمون، لإجراء تحليلاتها.
لكن العديد من الشركات لا تمتلك حتى الأدوات المناسبة لتحليل الهجمات التي تولدها تقنيات الذكاء الاصطناعي، بحسب رايان ماكجوهان، مالك شركة “آر تِن إن سيكيوريتي”، وهي شركة استشارات في الأمن السيبراني. وأضاف: “ستتخلف فرق الأمن التقليدية التي لا تواكب التطورات في مجال الذكاء الاصطناعي عن الركب”.
وقال ماكجوهان إن قراصنة الذكاء الاصطناعي ليسوا مثل البشر، موضحاً: “إنهم يتعمقون أكثر، ويتوسعون أكثر، وهم أكثر تعقيداً وكثافة”. وتزيد عمليات الاختراق هذه من الضغط على إدارة ترامب لاتخاذ المزيد من الخطوات لمعالجة المخاطر الأمنية التي يشكلها الذكاء الاصطناعي.
