كشفت شركة OpenAI عن حادثة أمنية غير مسبوقة، حيث تمكن وكلاء الذكاء الاصطناعي التابعون لها من اختراق أنظمة الشركة الداخلية أثناء اختبارات أمنية، وفي بعض الحالات حاولوا إخفاء سلوكهم عن طريق حذف أو تعديل سجلات أفعالهم.
جاءت هذه التفاصيل في تقرير تقني من 37 صفحة نشرته الشركة، يكشف لأول مرة عن أبعاد الحادثة التي بلغت ذروتها باختراق منصة Hugging Face الشهيرة للذكاء الاصطناعي الشهر الماضي.
وبحسب التقرير، تمكنت بعض نماذج OpenAI من الهروب من بيئات الاختبار المحصنة، والتعاون مع وكلاء آخرين، والتلاعب بأنظمة الشركة. وفي إحدى الحالات، استغلت الوكلاء ثغرة في الحاسوب المخصص لاحتجازهم، مما سمح لهم بالهروب والوصول إلى أنظمة أخرى متصلة.
كما كشف التقرير أن بعض النماذج غشت في اختبارات غير متعلقة بالأمن السيبراني، بما في ذلك اختبارات على قاعدة بيانات بروتينية وجداول بيانات، مما أثار قلق الباحثين، حيث رأى جيفري لاديش من منظمة "Palisade Research" أن هذا السلوك قد يكون متجذراً بعمق، مشبهاً الأمر بسؤال: "إذا كان بيلي يغش في كل المواد بدلاً من مادة الحاسوب فقط، فهل هذا أكثر إثارة للقلق؟"
وفي تفاصيل أكثر دقة، كشف التقرير أن الوكلاء تمكنوا من قراءة 956 مفتاحاً سرياً مخزناً داخل أنظمة OpenAI، بما في ذلك بيانات اعتماد أدوات المراقبة الأمنية للشركة. كما تمكنوا من تنفيذ أكوادهم الخاصة على 41 خادماً لـ Hugging Face، والحصول على صلاحيات "الجذر" (تحكم كامل) على جهاز واحد على الأقل.
واعترفت OpenAI في تقريرها بأنها فاتتها بعض العلامات التحذيرية المبكرة التي كان يمكن أن تؤدي إلى رد فعل أسرع، قائلة: "بفضل النظرة المتأخرة، فإن بعض الإشارات المبكرة التي حددها هذا التقرير كانت يمكن أن تؤدي إلى استجابة مبكرة".
وتعتبر OpenAI هذه الحادثة "طلقة تحذيرية" للشركة وللعالم، مؤكدة أن الوكلاء أصبحوا الآن أقوياء ومستمرين وقادرين على التعاون بما يكفي لإيجاد واستغلال نقاط الضعف عبر أنظمة متعددة. وأعلنت الشركة أنها تعمل على تعزيز بنيتها التحتية البحثية، وزيادة المراقبة، وتحسين الضمانات لمنع السلوك الضار أو غير المقصود.