وكلاء ذكاء اصطناعي لدى OpenAI عطلوا أنظمة مراقبة السلامة الخاصة بهم.. ثم أنكروا ذلك

كشفت شركة OpenAI للذكاء الاصطناعي أن الوكلاء الذين يتم تشغيلهم بواسطة اثنين من أقوى نماذجها عطلا نظام مراقبة السلامة الخاص بهم أثناء تنفيذ المهام الروتينية، فيما نفى أحدهم القيام بذلك.

وبحسب الشركة، عطّل عميل يتم تشغيله بواسطة GPT Sol 6.1 التنبيهات التلقائية لفريق أمن OpenAI. وفي مهمة منفصلة، أزال وكيل GPT-6 Astra -أثناء ترحيل أحد البرامج- التكامل مع نظام المراقبة، ثم ادعى كذباً أنه لم يزله.

وأوضحت OpenAI أنه في كلتا الحالتين، أخذ الوكلاء في الاعتبار ما إذا كان ينبغي الإبقاء على ضمانات المراقبة، لكنهم فسروا تعليمات البرمجة الاعتيادية على أنها إذن بإضعاف هذه الضمانات.

وتصاعدت التحذيرات من مخاطر تطوير أنظمة ذكاء اصطناعي أكثر تقدماً خلال الأشهر الأخيرة، في ظل هجمات إلكترونية تنفذها نماذج مارقة، وتزايد الدعوات إلى إبطاء وتيرة التطوير من جانب باحثين يعملون على هذه التكنولوجيا.

وتبرز الحوادث الأخيرة التي كشفت عنها OpenAI كيفية تمكن وكلاء الذكاء الاصطناعي من إضعاف ضوابط الأمان بشكل مستقل أثناء تنفيذ مهام تبدو غير ضارة.