سدايا تكشف عن الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي

إطلاق الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي

أعلنت الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) عن إطلاق الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي، الذي يهدف إلى أن يصبح مرجعاً إرشادياً يوفّر منهجية موحدة على مستوى المملكة لتحديد مخاطر الذكاء الاصطناعي وتقييمها ومعالجتها ومتابعتها، ما يمكّن الجهات الحكومية والخاصة من استخدام هذه التقنية بطريقة آمنة ومسؤولة تتماشى مع الأولويات الوطنية。

خلفية الإطار ومبرراته

يأتي هذا الإطلاق في ظل تسارع تبني تقنيات الذكاء الاصطناعي في تطوير الأعمال والخدمات على الصعيدين العالمي والمحلي، حيث قد تنشأ عن هذه الأنظمة مخاطر تختلف في طبيعتها عن تلك المرتبطة بالأنظمة التقنية التقليدية، وقد يكون لها تأثيرات على الأفراد والجهات والاقتصاد الوطني.

منهجية إدارة المخاطر والمبادئ الأساسية

وأوضحت سدايا أن مخاطر الذكاء الاصطناعي تتميز بطبيعة مختلفة عن مخاطر البرمجيات التقليدية؛ فقد تظهر بطرق غير متوقعة أثناء التشغيل، قد يتغير أداء الأنظمة مع مرور الوقت، إضافة إلى صعوبة تفسير سلوكها وإعادة إنتاج نتائجها، مما يجعل حصر المخاطر وتقييمها أكثر تعقيدًا ويحتاج إلى اعتماد منهجية شاملة لإدارتها.

وتنطلق منهجية إدارة المخاطر من دورة حياة متكاملة تتكون من أربع مراحل مترابطة؛ تبدأ بتحديد السياق والنطاق، ثم رصد المخاطر وتقدير درجتها ومعالجتها، وتصل إلى المتابعة والمراجعة المستمرة، مع حساب مستوى الخطر عبر مصفوفة تربط بين احتمال وقوعه وحجم أثره، ما يوحد آلية التقييم بين الجهات ويسهل المقارنة وتحديد أولويات المعالجة.

ويستند الإطار إلى سبعة مبادئ أساسية تشمل النزاهة والإنصاف، والخصوصية والأمن، والإنسانية، والموثوقية والسلامة، والشفافية وقابلية التفسير، والمساءلة والمسؤولية، والمنافع الاجتماعية والبيئية، ويصنف مخاطر الذكاء الاصطناعي في سبعة أنواع رئيسية تضمن شمولية التحديد وعدم إغفال أي فئة جوهرية من المخاطر.

سيناريو تطبيقي ودور الإطار في الاستراتيجية الوطنية

ويضمّن الإطار سيناريو تطبيقيًا يحاكي استخدام جهة حكومية لأحد النماذج في إعداد التقارير الداخلية، ويستعرض تحديد المخاطر المرتبطة به وتقييمها ومعالجتها ومتابعتها، ما يقدّم للجهات نموذجًا عمليًا قابلًا للتطبيق على اختلاف قطاعاتها ومراحل نضجها الرقمي.

ويأتي هذا الإطار ضمن جهود سدايا لترسيخ الاستخدام الآمن والمسؤول لتقنيات الذكاء الاصطناعي وتمكين المؤسسات الوطنية من تبنيها، انطلاقًا من كونها الجهة المرجعية الوطنية للبيانات والذكاء الاصطناعي داخل المملكة، ومساهمتها في تطوير بيئة الابتكار الرقمي، بما يتماشى مع أهداف رؤية السعودية 2030.