نماذج الذكاء الاصطناعي مفتوحة المصدر: مخاوف أمنية تتجاوز بلد المنشأ

يثير الانتشار السريع لنماذج الذكاء الاصطناعي الصينية مفتوحة المصدر، مثل Kimi K3، تساؤلات متزايدة حول المخاطر الأمنية المحتملة، لا سيما مع تزايد اعتماد المؤسسات والمطورين عليها في تطبيقات حساسة. ورغم أن القلق ينصب غالباً على مصدر النموذج أو شفافية التعليمات البرمجية، فإن الخبراء يرون أن طبيعة البرمجيات مفتوحة المصدر ليست المشكلة الجوهرية، بل تعتمد المخاطر على كيفية دمجها وتشغيلها داخل الأنظمة الرقمية.

مخاطر مشتركة وليس حكراً على النماذج الصينية

تتمثل أبرز المخاطر في احتمالية استغلال الثغرات الأمنية أو إساءة استخدام النماذج لشن هجمات إلكترونية، أو إدخال مكونات برمجية غير موثوقة في سلاسل التوريد الرقمية، بالإضافة إلى مخاوف تتعلق بحماية البيانات والخصوصية عند استخدام النماذج دون ضوابط أمنية كافية. ومع ذلك، فإن هذه التحديات لا تقتصر على النماذج الصينية، بل تنطبق على أي نموذج مفتوح المصدر يُنشر أو يُطوَّر دون مراجعات أمنية وإجراءات حوكمة فعالة.

خبراء: الخطر في غياب التنسيق وليس في المصدر

يخلص سام ساكس، الزميل البارز في مؤسسة “نيو أميركا” ومعهد أميركا والصين ومستقبل الشؤون العالمية في جامعة جونز هوبكنز، في مقال نشره عبر صحيفة “فايننشال تايمز” إلى أن “المشكلة الحقيقية لا تكمن في البرمجيات مفتوحة المصدر في الخارج، بل في غياب التنسيق لحماية البنية التحتية في مواجهة الهجمات الإلكترونية”. ويضيف أن واشنطن تركز على المراقبة وسرقة الملكية الفكرية والتجسس واحتمالية تورط الصين في البنية التحتية المحلية الحيوية، وتشير التقارير إلى أن البيت الأبيض يبحث عن أدوات للحد من انتشار النماذج الصينية مفتوحة المصدر أو فرض عقوبات عليها. ويرى أن النقاش قد يبدو صراعاً بين الأمن القومي والابتكار، لكنه ليس بهذه البساطة.

يوضح ساكس أن النماذج مفتوحة المصدر مثل Kimi K3 تتيح تحميل وتشغيل المعلمات (القيم التي تُتعلم أثناء التدريب وتحدد كيفية استخدام النموذج للمعلومات للتنبؤ) من قبل أي شخص، حيث تقوم الشركات بتحميل الأوزان وضبط النموذج بدقة ثم تشغيله على سحابتها أو بنيتها التحتية الخاصة. لذا، الأهم هو من يملك ويشغل الخادم الذي يُشغّل النموذج، ويمكن للمستخدمين الأميركيين القلقين بشأن إرسال البيانات إلى الصين تشغيل النماذج على أجهزة محلية يتحكمون بها أو عبر مزودي خدمات استدلال تابعين لجهات خارجية.

ويضيف أن النماذج الصينية المفتوحة لا تخضع للرقابة بشكل موحد، ويؤثر مكان استضافة النموذج على الوضع؛ فعند استضافته على بنية تحتية أميركية، يجيب النموذج على أسئلة محظورة داخل الصين، وبما أن الأوزان مفتوحة يمكن للمستخدمين تغيير قيود المحتوى. وحتى لو كانت البيانات مخزنة داخل الصين حيث يُلزم القانون الشركات بالتعاون مع قانون الاستخبارات الوطنية، فإن بعضها يُبدي مقاومة تُقيّد وصول الحكومة إليها. ففي مارس من العام الحالي، اشتبك مفتشو الحكومة الصينية الذين سعوا للوصول إلى بيانات منصة التجارة الإلكترونية “بيندودو” مع موظفين حاولوا منعهم من الدخول، ما أسفر عن إصابة أحد المسؤولين بكسر في إصبعه.

ويشير كاتب المقال إلى أن الولايات المتحدة تحتاج إلى خيار مفتوح المصدر قابل للتطبيق، وقد بات هذا الخيار أداة حاسمة في تعزيز النفوذ الوطني، ويشبهه كيفن شو من شركة “إنتركونكتد كابيتال” بأفلام ديزني وموسيقى البوب الكورية. لكن المشكلة الحقيقية تكمن في افتقار واشنطن إلى نهج شامل لدعم البنية التحتية الحيوية في مواجهة الهجمات الإلكترونية القوية المدعومة بالذكاء الاصطناعي، التي لم تعد مجرد افتراضات.

تقييم المخاطر: الخصوصية وسلسلة التوريد والامتثال

يقول خبير الذكاء الاصطناعي والتحول الرقمي في جامعة سان هوزه الحكومية بولاية كاليفورنيا، الدكتور أحمد بانافع، لموقع “اقتصاد سكاي نيوز عربية”: من الضروري التفريق بين المخاطر المرتبطة بالنماذج المفتوحة (Open Weight) بشكل عام، وبين المخاطر التي قد ترتبط بالجهة المطورة أو الإطار القانوني الذي تعمل ضمنه. ويؤكد أن “النماذج الصينية ليست جميعها مصدراً للخطر، كما أن النماذج الأميركية أو الأوروبية ليست بمنأى عن المخاطر الأمنية أو التقنية”. ومن أبرز المخاطر أمن سلسلة التوريد (Supply Chain Security)، إذ قد تتضمن بعض النماذج أو الأدوات المصاحبة تعليمات برمجية أو مكونات إضافية غير مدققة، لذا من الضروري التحقق من مصدر النموذج وسلامة ملفاته قبل تنزيله من المستودعات العامة.

ويضيف أن “الخصوصية وحماية البيانات تمثلان عاملاً أساسياً في تقييم المخاطر”، موضحاً أن استخدام النموذج عبر خدمات سحابية قد يؤدي إلى انتقال البيانات إلى خوادم خارج الدولة، بينما ينخفض هذا الخطر بصورة كبيرة عند تشغيل النموذج محلياً (Local Inference) داخل بيئة المستخدم دون إرسال البيانات إلى جهات خارجية. ويشير إلى أن الامتثال للقوانين المحلية يعد عنصراً مهماً، فالشركات الصينية تخضع للقوانين الصينية كما تخضع الشركات الأميركية للتشريعات الأميركية، ولذلك قد تفرض بعض الحكومات والقطاعات الحساسة قيوداً على استخدام نماذج أجنبية لأسباب تتعلق بالأمن القومي.

ويلفت بانافع إلى أن بعض النماذج قد تعكس تحيزات أو ضوابط ثقافية وسياسية ناتجة عن طبيعة البيانات التي تدربت عليها، وهو ما قد يؤدي إلى اختلاف طريقة تعاملها مع بعض الموضوعات الحساسة مقارنة بنماذج أخرى. كما يوضح أن النماذج المفتوحة يمكن لأي جهة تعديلها أو إعادة نشرها، بغض النظر عن بلد المنشأ، مما يستوجب التأكد من استخدام النسخ الأصلية الموثقة وعدم الاعتماد على نسخ معدلة مجهولة المصدر. ويضيف أن مستوى الشفافية والتوثيق يختلف من نموذج إلى آخر، فبعض المطورين يوفرون معلومات تفصيلية عن بيانات التدريب وآليات التقييم، في حين تكتفي نماذج أخرى بمعلومات محدودة، مما يجعل تقييم المخاطر الفنية والأمنية أكثر تعقيداً.

وحول ما إذا كان ينبغي تجنب هذه النماذج، يؤكد بانافع أن القرار يعتمد على طبيعة الاستخدام، موضحاً أن النماذج مفتوحة الأوزان يمكن استخدامها بأمان نسبي في مجالات التعليم والبحث والتطوير، لا سيما عند تشغيلها محلياً وبعد التحقق من مصدرها. أما الشركات، فينبغي أن تسبق عملية دمجها في الأنظمة الداخلية مراجعة أمنية شاملة وتقييم لمدى الامتثال، بينما تتبع الحكومات والقطاعات الحساسة عادة سياسات أكثر تشدداً قد تتطلب مراجعات أمنية دقيقة أو تحد من استخدام بعض النماذج الأجنبية. ويختتم حديثه بالتأكيد على أن “الخطر الحقيقي لا يكمن في كون النموذج صينياً أو أميركياً، وإنما في مكان تشغيله، ونوعية البيانات التي يتم إدخالها إليه، ومدى موثوقية مصدره، وطبيعة التطبيق الذي سيُستخدم فيه”. وهذا ما يدفع العديد من المؤسسات إلى تشغيل النماذج مفتوحة الأوزان داخل مراكز بياناتها الخاصة، سواء كانت نماذج صينية مثل Qwen وKimi أو أمريكية مثل Llama، بما يضمن بقاء البيانات داخل بيئتها التشغيلية ويحد من المخاطر المتعلقة بالأمن السيبراني والخصوصية.

النماذج الصينية: أرخص وأكثر انفتاحاً.. ومخاوف متزايدة

ويشير تقرير لشبكة “إيه بي سي” إلى أن نماذج الذكاء الاصطناعي الصينية تكتسب زخماً مع تحقيقها تقدماً في الولايات المتحدة، ويصفها بأنها “أرخص وأكثر انفتاحاً وذكاءً”. ويذكر أن كبير مسؤولي التكنولوجيا في شركة موزيلا التي تدير متصفح فايرفوكس، ومقرها سان فرانسيسكو، رافي كريكوريان، تحول إلى استخدام نظام كيمي كيه 3 من شركة مونشوت الصينية الناشئة في مجال الذكاء الاصطناعي للعديد من أنشطته اليومية في غضون أيام من إطلاق النموذج الجديد والقوي قبل أكثر من أسبوع. وقال عن برنامج K3 “يبدو أسرع بكثير”، مقارناً إياه ببرنامج الدردشة الآلي الشهير والأكثر تكلفة “كلود فابل” من شركة “أنثروبيك” في سان فرانسيسكو. وكان يستخدم سابقاً نموذجاً صينياً آخر عالي الأداء، وهو GLM-5.2 من شركة Z.ai، للمهام الروتينية مثل إدارة التقويم والمستندات والبريد الإلكتروني.

يُعدّ كريكوريان واحداً من بين عدد متزايد من الأميركيين الذين يتبنون أنظمة الذكاء الاصطناعي الصينية، والتي تكتسب رواجاً عالمياً نظراً لانخفاض تكلفتها وكفاءتها المتزايدة. وقد صرّحت شركات أميركية، مثل منصة تداول العملات الرقمية كوين بيس، بأنها بصدد التحوّل إلى نماذج الذكاء الاصطناعي الصينية للمساعدة في خفض التكاليف. أثارت شعبية تلك النماذج استياء بعض عمالقة التكنولوجيا الأمريكية، ولكن في غياب حظر صريح، من المرجح أن تستمر في جذب مطوري البرامج المستقلين في الولايات المتحدة وأماكن أخرى.

من جانبه، يقول رئيس قسم الأسواق العالمية في شركة Cedra Markets، جو يرق، لموقع “اقتصاد سكاي نيوز عربية”: المخاطر المرتبطة باستخدام نماذج الذكاء الاصطناعي مفتوحة المصدر لا تقتصر على النماذج الصينية وحدها، بل تشمل جميع النماذج المفتوحة التي قد تفتقر إلى ضوابط كافية لحماية البيانات والأمن السيبراني. ومع ذلك، فإن النماذج الصينية تثير قدراً أكبر من المخاوف لدى العديد من الشركات والمؤسسات بسبب الاعتبارات المرتبطة بالأمن السيبراني وحوكمة البيانات. ويتمثل أبرز هذه المخاطر في حماية خصوصية المستخدمين، إذ قد لا تكون البيانات التي يتم إدخالها إلى هذه النماذج محمية بالشكل الكافي، مما يزيد احتمالات مشاركتها أو معالجتها من قبل أطراف ثالثة أو استخدامها في أغراض أخرى دون علم المستخدم، وهو ما يشكل تحدياً حقيقياً للأفراد والمؤسسات على حد سواء.

ويؤكد يرق أن هناك جانباً آخر لا يقل أهمية، وهو جودة المعلومات التي تقدمها هذه النماذج، إذ تعتمد في كثير من الأحيان على مصادر خارجية قد لا تتمتع بالدقة أو الموثوقية الكافية، الأمر الذي قد يؤدي إلى مخرجات غير دقيقة أو مضللة، خاصة عند استخدامها في الأعمال أو اتخاذ القرارات. ويشير إلى أن استخدام النماذج مفتوحة المصدر يتطلب درجة عالية من الحذر، ولا سيما عند التعامل مع بيانات شخصية أو معلومات حساسة. ويشدد على أن المخاطر تصبح أكبر عندما يتم استخدام هذه النماذج داخل الشركات، لأن ذلك قد يعرض البيانات المؤسسية والملكية الفكرية ومعلومات العملاء لمخاطر أمنية وتسريب محتمل. ويختتم حديثه بالتأكيد على أن الشركات التي تعتمد على هذه النماذج يجب أن تضع سياسات واضحة لاستخدام أدوات الذكاء الاصطناعي، وأن تطبق أعلى معايير الأمن السيبراني وحوكمة البيانات، مع اتخاذ جميع الإجراءات الاحترازية اللازمة قبل دمج أي نموذج مفتوح المصدر في بيئة العمل.