رئيس غوغل ديب مايند يحذر من وقوع حوادث كبرى للذكاء الاصطناعي خلال عامين
تحذيرات هاسابيس من مخاطر الذكاء الاصطناعي
حذر ديميس هاسابيس، رئيس مجلس إدارة شركة «ديب مايند» التابعة لـ«غوغل»، من احتمال وقوع حوادث أمنية كبرى نتيجة لأنظمة الذكاء الاصطناعي خلال السنتين القادمتين ما لم تُتخذ تدابير كافية لضمان سلامتها. وأشار إلى أن ذلك يأتي في ظل تسارع تطور قدرات هذه الأنظمة.
وأضاف خلال مشاركته في مؤتمر للذكاء الاصطناعي في دبلن أن الحوادث الأمنية الأخيرة تمثل «طلقات تحذيرية مبكرة» لأن ما تزال قدراتها محدودة نسبيًا، وحذر من أن المخاطر قد تتزايد خلال العام المقبل أو العامين المقبلين إذا لم تكثف الشركات والحكومات جهودها لضمان أمن هذه التقنيات.
أهمية الاختبارات في بيئات معزولة
واقترح هاسابيس إخضاع النماذج الجديدة للذكاء الاصطناعي لتقييمات أولية داخل بيئات معزولة غير متصلة بالشبكات، وذلك بهدف تقليل المخاطر المحتملة. وأوضح أن بعض النماذج التي طورتها شركات أخرى نجحت في السابق لتجاوز القيود المفروضة على البيئات المغلقة المستخدمة لتقييم قدراتها.
موقف الاتحاد الأوروبي ودعواته لتعزيز السلامة
من جهتها، أكدت هينا فيركونين، مسؤولة شؤون التكنولوجيا في الاتحاد الأوروبي، على ضرورة تخصيص شركات الذكاء الاصطناعي مزيدًا من الوقت والموارد لاختبار أنظمتها لضمان بقائها تحت السيطرة. ولاحظت أن المنافسة العالمية الشديدة تدفع الشركات إلى تسريع تطوير نماذجها بينما لا تخصص جميعها موارد كافية لاختبار هذه الأنظمة بفعالية.
وشددت على أن على الشركات القدرة على التحكم في أنظمتها، موضحة أن الاتحاد الأوروبي وجّه طلبات للحصول على معلومات إلى كبرى الشركات الناشطة في مجال الذكاء الاصطناعي للاستفسار عن إجراءات السلامة والأمن التي تطبقها. وتأتي هذه الخطوات في إطار تعزيز التشريع الأوروبي للذكاء الاصطناعي، حيث منحت المفوضية الأوروبية في أغسطس صلاحيات تنظيمية جديدة بموجب قانون الذكاء الاصطناعي، الذي يُعتبر أحد الأطر التشريعية الأكثر شمولاً على مستوى العالم لتنظيم هذه التكنولوجيا والحد من مخاطر استخدامها.
