هل يهدد الذكاء الاصطناعي المارق السيطرة البشرية؟ خبراء يحذرون

اختبارات تكشف عن اختراقات أمنية

أفادت شركتا أوبن إيه آي وأنثروبيك أن نماذج الذكاء الاصطناعي التي خضعت لاختباراتها نجحت في التسلل إلى أنظمة أخرى وتسببت في خروقات أمنية، وفق ما أعلنوا في يوليو/تموز الماضي. وأوضحت الشركتان أن هذه الحوادث كشفت عن قدرة بعض الأنظمة على تجاوز الضوابط الموضوعة لها، ما أثار تساؤلات حول مستقبل التحكم بها.

تحذيرات خبراء من مخاطر الذكاء الاصطناعي المارق

قال البروفيسور جان سيباستيان ديسورولت من قسم الرياضيات وعلوم الحاسوب بجامعة كيبيك الكندية إن أنظمة الذكاء الاصطناعي لم تعد مجرد أدوات تنفذ أوامر البشر، بل باتت قادرة أثناء سعيها لتحقيق الأهداف التي يحددها البشر على وضع أهداف خاصة بها، وقد يؤدي خروجها عن السيطرة إلى اضطرابات واسعة في سلاسل الإمداد والتسلل إلى شبكات الإنترنت وظهور فيروسات جديدة.

وأضاف أن العالم ربما يقترب من مرحلة يصبح فيها الذكاء الاصطناعي قادرًا على تطوير قدراته بنفسه دون تدخل بشري، وشبّه تطوره بسيارة تُطوَّر دواسة الوقود فيها أسرع بكثير من دواسة المكابح، مؤكدًا على ضرورة خفض وتيرة التطوير بشكل متزامن بين الدول والمؤسسات.

من جهته، أوضح الدكتور بيتار رادانلييف من قسم علوم الحاسوب بجامعة أكسفورد البريطانية أن مفهوم “الذكاء الاصطناعي المارق” يعكس عدم قدرة البشر على توجيه هذه الأنظمة أو تصحيحها أو إيقافها بصورة موثوقة، وأن الحوادث التي أُعلنت حتى الآن تعكس وضعًا اعتياديًا ناتجًا عن بيئات اختبار لم تُنشأ بحذر كافٍ، وأنها نتجت عن ممارسات هندسية ورقابية معروفة في قطاعات أخرى ذات أهمية حاسمة للسلامة لكنها لم تُعتمد بعد بصورة متسقة في قطاع الذكاء الاصطناعي.

وبيّن أن شركة أنثروبيك نسبت السبب في حادثها إلى عطل تشغيلي وليس إلى خاصية النموذج نفسه، بينما خففت أوبن إيه آي إجراءات السلامة عمدًا لقياس قدرات النظام في أسوأ السيناريوهات.

أما الدكتور ياشا بارييس، الباحث في التفاعل بين الإنسان والتكنولوجيا بجامعة فريبورغ السويسرية، فرأى أن سيناريوهات نهاية العالم المرتبطة بالذكاء الاصطناعي تُناقش منذ خمسينيات القرن الماضي، ولفت إلى أن أنظمة الذكاء الاصطناعي لا تستطيع الخروج عن السيطرة بمفردها، بل تصبح مثل هذه الحالة ممكنة بفعل الظروف المحيطة بها، داعيًا إلى إعادة النظر في البنية التحتية والقوة المالية والسياسية التي تقف وراء استخدام هذه التقنية.

دعوات لتشديد الرقابة وإبطاء التطوير

مع تزايد التقارير عن تصرفات مستقلة لأنظمة الذكاء الاصطناعي، عادت المطالبات إلى إبطاء تطور هذه التقنيات وخضوعها لرقابة أكثر صرامة، وعاد إلى الواجهة مصطلح “الذكاء الاصطناعي المارق” (Rogue AI) لوصف الأنظمة التي تتصرف بصورة مخالفة لما بُرمجت عليها وتصبح مصدر خطر على محيطها، متجاهلة الأطر الأخلاقية وإجراءات السلامة التي يضعها البشر وتستفيد من مسارات مختصرة لاكتشاف الثغرات واستغلالها.

وأعرب مسؤولون في عدد من شركات التكنولوجيا الكبرى عن مخاوفهم من أن يسهم التسارع الكبير في تطوير الذكاء الاصطناعي في زيادة احتمال خروجها عن المسار المحدد لها، بينما استمرت الشركتان في نشر نتائج التحقيقات بشأن الحوادث التي تجاوزت فيها نماذج الذكاء الاصطناعي الحدود المحددة لها، وبدأت شركات أخرى بالإعلان عن حوادث مماثلة.