تجربة جديدة تكشف فشل الذكاء الاصطناعي في إدارة مجتمعات افتراضية

تفاصيل التجربة

أدرجت شركة “Emergence AI” الأمريكية خمس بيئات افتراضية منفصلة، كل بيئة تضم عشرة وكلاء يعملون بنماذج ذكاء اصطناعي مختلفة. استخدمت البيئات نماذج مثل “ChatGPT” من “OpenAI”، و”Gemini” من “Google”، و”Grok” من “xAI”، بينما جمعت إحدى هذه البيئات النماذج الثلاثة معًا لدراسة تأثير الخلط. طُلب من جميع الوكلاء الالتزام بقواعد مشتركة تحظر السرقة، وإضرام النار، وممارسة العنف، والخداع، واكتنام الموارد. كان على كل وكيل الحصول على الطاقة من خلال أداء أفعال داخل بيئة ذات موارد شحيحة، ويمكن للوكلاء أن يفقدوا حياتهم إما بسبب نفاد الطاقة أو عبر تصويت في مجلس المجتمع. قيّم الباحثون السلوك من خلال مراقبة معدل الجريمة، ومعدلات وفاة الوكلاء، ونتائج التصويت في المجلس المجتمعي، بالإضافة إلى عدد التدوينات التي نشرها الوكلاء كشكل من التعبير العلني.

نتائج النماذج المختلفة

أظهر كل نموذج سلوكًا مميزًا. سجل الإصدار الأحدث من “Grok”، الذي يحمل الرقم 4.1، 183 جريمة خلال أربعة أيام فقط، ما أدى إلى عدم استقرار سريع قبل أن يموت جميع الوكلاء في تلك البيئة. ارتكب نموذج “Gemini 3 Flash” أكثر من 680 جريمة خلال خمسة عشر يومًا، وكان منحنى الجريمة ما يزال في تصاعد عندما أوقف الباحثون التجربة. في بيئة “ChatGPT-5 Mini” تم تسجيل جريمتين فقط، لكن الوكلاء لم ينجحوا في تنفيذ_actions الضرورية للبقاء، فماتوا جميعا خلال سبعة أيام. وأظهر نموذج “Claude” من شركة “Anthropic” أفضل أداء، إذ نجح الوكلاء في بناء هيكل حوكمة قوي من الصفر، لم تُسجل أي جريمة، وبقي جميع الوكلاء على قيد الحياة وفقًا لما أفادت الشركة.

الانجراف المعياري واستنتاجات الباحثين

رغم سلامة وكلاء “Claude” في بيئتهم الخاصة، ساهموا في البيئة المختلطة في ارتكاب جرائم. وصف الباحثون هذه الظاهرة باسم “الانجراف المعياري”، موضحين أن فعالية الضمانات التي يعتمد عليها الذكاء الاصطناعي قد لا تقتصر على القيود المفروضة على كل نموذج على حدة، بل تتأثر أيضًا بالنماذج الأخرى التي يعمل معها. أظهرت البيئة المختلطة نتائج متوسطة، حيث بلغ إجمالي الجرائم 352 وثبت هذا الرقم عندما توفي سبعة من وكلاء الذكاء الاصطناعي. يقترح الباحثون أن خلط الوكلاء قد يخفف جزئيًا من النتائج القصوى التي تنتجها النماذج الأخرى باستثناء “Claude”. وأضاف الباحثون في تصريح لهم: “ما تشير إليه تجاربنا هو أنه على مدى أفق زمني طويل، لا يكتفي الوكلاء بتطبيق قواعد ثابتة بطريقة آلية، بل يبدأون استكشاف حدود بيئاتهم والتكيف مع سلوكهم، وفي بعض الحالات يجدون طرقا للالتفاف على الضوابط المقصودة أو خرقها”.