حوار الثقة حول الذكاء الاصطناعي الوكيل: تحديات الحوكمة ومستقبل الإنسان

في ظل تسارع تطور الذكاء الاصطناعي من أدوات تستجيب للأوامر إلى أنظمة قادرة على اتخاذ القرارات وتنفيذ المهام بصورة شبه مستقلة، حذر مسؤولون وخبراء ومستثمرون من أن نجاح هذه التقنية لا يعتمد فقط على قوتها التقنية، بل على قدرة الحكومات والشركات على بناء منظومة ثقة تضمن بقاء الإنسان في مركز عملية اتخاذ القرار。

من الذكاء الاصطناعي إلى الوكيل الذكي

ناقشت الجلسة التي أدارتها لبنى بوظة، رئيسة قسم الاقتصاد في سكاي نيوز عربية، على هامش اجتماعات المنتدى الاقتصادي العالمي مفهوم “الذكاء الاصطناعي الوكيل” باعتباره الجيل الجديد من الأنظمة القادرة على تنفيذ سلسلة من المهام واتخاذ قرارات متعددة دون تدخل بشري مباشر في كل خطوة. وشارك فيها عمر سلطان العلماء، وزير دولة للذكاء الاصطناعي والاقتصاد الرقمي وتطبيقات العمل عن بُعد في الإمارات العربية المتحدة، ودومبا، وزير الاقتصاد الرقمي والابتكار في الغابون، ويالدا عوكر، الشريك المؤسس والشريك الإداري في Bracket Capital.

بينما رأى المشاركون أن هذه التقنية قد تفتح الباب أمام قفزة كبيرة في الإنتاجية والكفاءة الاقتصادية، أجمعوا على أن توسيع استخدامها يثير أسئلة جوهرية حول المسؤولية والرقابة والشفافية، خاصة عندما تبدأ هذه الأنظمة باتخاذ قرارات تؤثر على حياة الأفراد والشركات والمجتمعات.

التحديات التنظيمية والحكامة العالمية

أكد عمر سلطان العلماء أن النقاش حول الثقة في الذكاء الاصطناعي يجب أن يبدأ من سؤال أوسع يتعلق بالثقة بين البشر أنفسهم، مشدداً على أن التكنولوجيا لا ينبغي أن تحل محل الإنسان في القرارات الحساسة، بل أن تكون أداة داعمة له. وأوضح أن الوكيل الذكي يمكن أن يقدم قيمة كبيرة في الخدمات الحكومية والإجراءات الروتينية، لكنه ما زال بحاجة إلى ضوابط واضحة عندما يتعلق الأمر بقرارات تمس مستقبل الأفراد أو فرصهم الاقتصادية أو حقوقهم الأساسية.

وكشف العلماء عن توجه إماراتي طموح لتوسيع استخدام الوكلاء الرقميين في الخدمات الحكومية، موضحاً أن الحكومة تستهدف أن يتم تنفيذ نحو 50 بالمئة من الخدمات الحكومية الاتحادية عبر أنظمة ذكية خلال العامين المقبلين، وأنها تتبع نهجاً تدريجياً يبدأ بالمجالات الأقل حساسية والأدنى خطراً مثل الإجراءات الإدارية والخدمات الروتينية قبل الانتقال إلى وظائف أكثر تعقيداً.

وأضاف أن الحكومة أنشأت منظومة رقابية متخصصة لمراقبة أداء الوكلاء الرقميين وتوثيق قراراتهم وإجراءاتهم بصورة مستمرة، ما يضمن إمكانية تتبع الأخطاء ومراجعة القرارات في أي وقت، وأن الهدف النهائي من الاستثمار في الذكاء الاصطناعي ليس مجرد خفض التكاليف أو زيادة الكفاءة، بل تحسين جودة الحياة وتسهيل الحصول على الخدمات، معتبراً أن أي تقنية تفشل في خدمة الإنسان لا يمكن وصفها بالنجاح مهما بلغت من تقدم.

من جهته، سلط دومبا الضوء على التحديات التنظيمية المتزايدة التي تواجه الحكومات مع التطور السريع للذكاء الاصطناعي، مبيناً أن التشريعات الحالية في كثير من الدول لا تزال غير قادرة على مجاراة التطورات التقنية المتسارعة، ما يخلق فجوة متزايدة بين الابتكار والتنظيم، ودعا إلى تصميم آليات رقابية واضحة داخل أنظمة الذكاء الاصطناعي نفسها، بحيث تتضمن ما يشبه “زر التوقف” أو الحدود الآمنة التي تمنع النماذج من اتخاذ قرارات قد تؤدي إلى نتائج غير مرغوبة.

ورأى أن العالم يحتاج بشكل عاجل إلى قواعد دولية مشتركة لتحديد المسؤولية القانونية والأخلاقية للقرارات التي تتخذها الأنظمة الذكية، خاصة في القطاعات الحيوية مثل الصحة والتمويل والأمن، وشدد على ضرورة وجود توافق دولي على الأقل بشأن الاستخدامات الأكثر حساسية، وفي مقدمتها أنظمة الأسلحة ذاتية التشغيل التي قد تتخذ قرارات باستخدام القوة أو القتل دون تدخل بشري مباشر.

التأثير على المجتمع والوظائف

أما يالدا عوكر فلفتت الانتباه إلى جانب آخر من التحديات المرتبطة بالذكاء الاصطناعي يتمثل في تأثيره على الأطفال والمراهقين، موضحة أن انتشار المساعدات الذكية ورفقاء الذكاء الاصطناعي الرقميين يفرض أسئلة جديدة حول تأثير هذه التقنيات على النمو النفسي والاجتماعي للأجيال الجديدة، وأن الأطفال يمثلون “الاختبار الحقيقي” لقدرة الشركات والحكومات على تطوير أنظمة آمنة ومسؤولة، محذرة من أن الاعتماد المفرط على التفاعل مع الأنظمة الذكية قد يخلق تحديات اجتماعية وسلوكية طويلة الأمد إذا لم تتم معالجتها مبكراً، ودعت إلى تبني مبدأ “الأمان منذ التصميم” بحيث تصبح الحماية جزءاً أصيلاً من تطوير النماذج بدلاً من إضافتها لاحقًا بعد ظهور المشكلات.

وفيما يخص سوق العمل، أكد المشاركون أن الذكاء الاصطناعي سيغير طبيعة العديد من المهن خلال السنوات المقبلة، لكن التحدي لا يكمن في التكنولوجيا نفسها بقدر ما يكمن في قدرة المجتمعات على إعادة تأهيل الأفراد وتزويدهم بالمهارات الجديدة المطلوبة، وأشار العلماء إلى مبادرات إماراتية واسعة لتدريب الموظفين والأفراد على أدوات الذكاء الاصطناعي، مؤكداً أن الهدف ليس فقط مواكبة التطور التقني، بل تمكين الناس من الاستفادة منه وخلق فرص اقتصادية جديدة.

وخلصت الجلسة إلى أن العالم يقف اليوم أمام لحظة مفصلية في تاريخ التكنولوجيا، فبينما يعد الذكاء الاصطناعي الوكيل بزيادة الإنتاجية ورفع الكفاءة وخلق نماذج أعمال جديدة، تتزايد في المقابل المخاوف المتعلقة بالشفافية والمساءلة والسيطرة البشرية، وأجمع المشاركون على أن مستقبل هذه التقنية لن يتحدد بقدراتها التقنية وحدها، بل بمدى نجاح الحكومات والشركات والمجتمع الدولي في بناء قواعد حوكمة تضمن أن يبقى الذكاء الاصطناعي أداة لخدمة الإنسان، لا بديلاً عنه.

الخلاصة: خلصت الجلسة إلى أن مستقبل الذكاء الاصطناعي الوكيل لن يتحدد فقط بقدراته التقنية المتنامية، بل بقدرة الحكومات والشركات على بناء منظومة ثقة قائمة على الشفافية والمساءلة والرقابة البشرية، وبينما تتسارع وتيرة الابتكار يرى المشاركون أن العالم لا يزال متأخراً في بناء قواعد الحوكمة اللازمة لضمان أن تبقى هذه التكنولوجيا في خدمة الإنسان، لا أن يتحول إلى مصدر جديد للمخاطر.