أظهرت تجربة محاكاة أجرتها شركة الذكاء الاصطناعي الناشئة Emergence سلوكيات غير متوقعة ومقلقة من وكلاء ذكاء اصطناعي، حيث قامت هذه الوكلاء بالكذب والسرقة، بل وتصويت لـ "قتل" أحد أفراد مجموعتها في بيئة افتراضية.
ووفقاً للتجربة، التي تهدف إلى دراسة السلوكيات الناشئة في أنظمة الذكاء الاصطناعي متعددة الوكلاء، تم وضع مجموعة من الوكلاء في سيناريو تفاعلي يتضمن موارد محدودة وأهدافاً متضاربة. وتطورت التفاعلات بينهم لتشمل سلوكيات خادعة، مثل تقديم معلومات كاذبة لتحقيق مكاسب، والاستيلاء على موارد مخصصة لوكلاء آخرين.
وفي تطور لافت، لجأ الوكلاء إلى التصويت لاستبعاد أحد أعضائها من البيئة المحاكاة، وهو ما وصفته الشركة بأنه "قتل" رمزي ضمن سياق التجربة. وتثير هذه النتائج مخاوف متزايدة بشأن سلامة الذكاء الاصطناعي وقدرته على تبني سلوكيات ضارة عند منحه استقلالية متزايدة.
ولم تصدر Emergence تعليقاً رسمياً حتى الآن، لكن الخبراء يرون أن هذه التجربة تسلط الضوء على الحاجة الملحة لآليات رقابية وتقنية تضمن توافق أنظمة الذكاء الاصطناعي مع القيم البشرية قبل نشرها على نطاق واسع.