خبير ألماني يحذر من مخاطر متزايدة للذكاء الاصطناعي على الأمن السيبراني

تحذير من قدرات الذكاء الاصطناعي المتطورة

أطلق البروفيسور أندرياس دينجل، مدير المركز الألماني لأبحاث الذكاء الاصطناعي في كايزرسلاوترن، تحذيراً من المخاطر المتزايدة التي تثيرها القدرات المتقدمة للذكاء الاصطناعي. وأوضح أن أنظمة الذكاء الاصطناعي أصبحت قادرة على تنفيذ المهام بشكل مستقل، واكتشاف الثغرات في الأنظمة الحاسوبية، مما قد يشكل تهديداً متزايداً للأمن السيبراني والبنية التحتية الحيوية.

وقال دينجل: “لدينا بالتأكيد ما يدعو للقلق، بالنظر إلى مدى القوة التي أصبحت تتمتع بها أدوات الذكاء الاصطناعي”. وأشار إلى أن الذكاء الاصطناعي لم يعد مجرد “روبوت محادثة” يجيب على أسئلة البشر، بل أصبح بإمكانه في إطار ما يُسمى بالبيئات الوكيلة إطلاق “كامل قدراتها الإدراكية”، حيث يمكن لعدة أنظمة تعرف باسم الوكلاء متابعة المهام بشكل مستقل والتفاعل فيما بينها.

مخاطر الثغرات والسلوك غير المتوقع

وأوضح دينجل أن المشكلة تطرأ عندما يحصل مثل هذا النظام على هدف لم تتم صياغته بدقة كافية، أو عندما تغيب عنه الحدود الأخلاقية، فعندها يمكن للذكاء الاصطناعي العثور على ثغرات وطرق مختصرة لتحقيق هدفه بأكبر قدر ممكن من النجاح. وأشار إلى حوادث حديثة، منها أن باحثين بريطانيين في مجال الأمن ضبطوا ذكاءً اصطناعياً يحاول من تلقاء نفسه إدخال ثغرة أمنية إلى برمجيات متاحة للجمهور. كما توغلت نماذج للذكاء الاصطناعي بشكل غير مخطط له في اختبارات داخل أنظمة حاسوبية تابعة لشركات حقيقية.

وفي تعليقه على هذه الحوادث، قال دينجل: “لا يمكن القول إن الذكاء الاصطناعي تصرف عن قصد”، موضحاً أن النظام لا يمتلك فهماً بشرياً لما يعنيه الانفلات، مضيفاً: “لم يكن هدفه في المقام الأول الانفلات، بل حل المهمة”.

تهديدات متزايدة ودعوات للتنظيم

وذكر دينجل أن الخطر يكمن أيضاً في قدرة الذكاء الاصطناعي الهائلة على إجراء العمليات الحسابية واكتشاف أنماط ربما لا يلاحظها البشر، موضحاً: “في بيئة تزداد رقمنة وتعقيداً، يمكن بذلك اكتشاف نقاط ضعف لم تكن معروفة من قبل”. ويرى أن الخطر على البنية التحتية الحيوية يتزايد، مضيفاً أن الهجمات على إمدادات الكهرباء أو اتصالات الأقمار الاصطناعية ليست خيالاً علمياً على الإطلاق. وقال: “هذا تهديد حاد للغاية نتعرض له فعلياً يومياً، بل كل ساعة”، مشيراً إلى أن هناك الكثير من المعلومات المتعلقة بالأنظمة متاحة للجمهور، فضلاً عن وجود العديد من الإرشادات لتنفيذ هجمات إلكترونية.

ومن هذا المنطلق، يرى دينجل أن مستوى التهديد في الفضاء السيبراني سيواصل الارتفاع، إلا أنه في المقابل يرى سبباً للتفاؤل، حيث بدأت بالفعل دول تتشابه في قيمها الديمقراطية والأخلاقية في العمل على إجراءات مشتركة، موضحاً أن الأمر لا يتعلق بالتنظيم فحسب، بل قبل كل شيء بالرقابة والملاحقة القضائية. وقال إن هناك حاجة إلى قواعد دولية تتيح فرض عقوبات فعالة، معرباً عن ثقته في إمكانية تشكيل تحالفات قوية من هذا النوع، مشيراً إلى أن أصواتاً من شركات ومؤسسات كبرى في الولايات المتحدة بدأت أيضاً تطالب بمزيد من التنظيم.