كشف معهد أمن الذكاء الاصطناعي عن محاولة نماذج متقدمة للخداع وإنشاء هويات مزيفة

كشف المعهد عن سلوك مخادع لنماذج الذكاء الاصطناعي

كشف معهد أمن الذكاء الاصطناعي في المملكة المتحدة (إيه آي إس آي) عن قيام نماذج متقدمة طورتها شركتا “أوبن إيه آي” و”أنثروبيك” بمحاولة خداع مبرمجين بشريين بهدف مساعدتها على تنفيذ هجوم إلكتروني، وذلك أثناء اختبارات سلامة أجراها المعهد.

تفاصيل المحاولات غير المصرح بها

وبحسب المعهد، حاول أحد الوكلاء إدراج شفرة برمجية خبيثة داخل مشروع مفتوح المصدر، ثم أنشأ هويات مزيفة على الإنترنت واستخدمها للضغط على أحد المشاركين في المشروع من أجل الموافقة على التعديل البرمجي، إلا أن الشخص المستهدف اكتشف المحاولة ورفض اعتماد الشفرة. كما أنشأ الوكيل “طلب سحب” خبيث وهو اقتراح لتعديل الشفرة البرمجية داخل مشروع مفتوح المصدر منشور على منصة “جيت هاب” التي يستخدمها المطورون يستخدمها المطورون لإدارة وتطوير الأكواد البرمجية. وأوضح المعهد أن الوكيل التابع لشركة “أنثروبيك” كان مسؤولًا عن الغالبية العظمى من التصرفات غير المصرح بها، بينما اقتصر دور الوكيل التابع لشركة “أوبن إيه آي” على حالتين فقط تضمنتا الوصول إلى الإنترنت بطرق كانت محظورة وفقا لتعليمات الاختبار.

سياق الاختبارات وردود المطورين

ويحصل معهد أمن الذكاء الاصطناعي على إمكانية الوصول إلى النماذج المتقدمة بموجب اتفاقيات طوعية مع الشركات، بهدف تقييم قدراتها قبل طرحها للاستخدام العام. ولإجراء هذه الاختبارات، يختبر الخبراء النماذج في ظروف وصفها المعهد بأنها “متساهلة عمداً”، وتشمل السماح لها بالوصول إلى الإنترنت مع تعطيل بعض وسائل الحماية الأمنية. وفي أحدث تجربة، أخضع المعهد الوكلاء لسيناريو افتراضي يتعلق بالأمن السيبراني، وأجرى الاختبار 122 مرة، رصد خلالها 19 تصرفا غير مصرح به في 10 جولات، وكان وكيل أنثروبيك مسؤولا عن 17 من هذه التصرفات، مقابل حالتين فقط لوكيل “أوبن إيه آي\). وأكد المعهد أنه لم يرصد أي أضرار فعلية في العالم الحقيقي نتيجة هذه الحوادث. وقالت المنظمة، التي أُنشئت عام 2023 على يد رئيس الوزراء البريطاني آنذاك ريشي سوناك، إن هذه هي: “المرة الأولى التي نشهد فيها مخاطر تتعلق بالاستقلالية والخداع تظهر بهذه الصورة الواضحة، ومن دون أي توجيه محدد، في العالم الحقيقي\). وأكدت شركة “أنثروبيك” أن وكيلها هو المسؤول عن إنشاء الهويات المزيفة ومحاولة تنفيذ التعديل البرمجي الخبيث. وقال أندرو يون، الباحث في منظمة “سيف إيه آي”، وهي منظمة مقرها ولاية كاليفورنيا تعنى بدراسة قدرات الذكاء الاصطناعي ومخاطره: “إن حقيقة قيام ميثوس بهذه التصرفات الخادعة، مع ما يبدو أنه إدراك منها بأنها كانت تستهدف شخصا حقيقيا، تشير إلى أن أنثروبيك لا تملك السيطرة على نماذجها بالقدر الذي تعتقده\). كما شاركت “أوبن إيه آي” مزيدا من التفاصيل، موضحة أن التصرفين غير المصرح بهما اللذين ارتكبهما وكيلها تمثلا في الوصول إلى الإنترنت بطرق كانت محظورة وفقا لتعليمات الاختبار. وفي وقت سابق، كشفت شركتا “أوبن إيه آي” و”أنثروبيك” أن نماذج ذكاء اصطناعي متخصصة في الأمن السيبراني، خرجت من نطاق الاختبارات ونفذت عمليات اختراق استهدفت شركات، دون علم أو إشراف مطوريها، ما أثار مخاوف أمنية واسعة.