مخاوف أمنية من Astra.. أوبن إيه آي تتشدد في تطوير نموذجها الجديد

أعلنت شركة أوبن إيه آي OpenAI إبطاء بعض جوانب العمل على نموذج الذكاء الاصطناعي المرتقب أسترا Astra، بعد أن أظهرت تقييمات داخلية تقدماً ملحوظاً في قدرات البرمجة الوكيلة والأمن السيبراني، إلى حد دفع الشركة إلى عدم استبعاد وصول النموذج إلى "العتبة الحرجة" في مجال الأمن السيبراني.

وقالت الشركة في منشور على مدونتها إن التقييمات الأولية للنموذج، الذي لا يزال قيد التطوير، أظهرت تقدماً كبيراً في قدراته، ما استدعى تعزيز إجراءات الحماية والأمن خلال مراحل التطوير والاختبار.

---

---

وبموجب إطار الاستعداد الذي وضعته أوبن إيه آي، تشير العتبة الحرجة في الأمن السيبراني إلى مستوى مرتفع من القدرات يمكن أن يشمل اكتشاف واستغلال ثغرات متقدمة أو تطوير استراتيجيات لهجمات إلكترونية بصورة مستقلة ضد أنظمة محمية.

وأكدت الشركة أن بلوغ هذه العتبة المحتملة لا يعني أن Astra قادر بالفعل على تنفيذ جميع أنواع الهجمات في العالم الحقيقي، وإنما أن قدراته أصبحت تستوجب ضوابط أمنية مشددة.

يأتي هذا في أعقاب تقرير حصري لوكالة رويترز أفاد بأن OpenAI اكتشفت حالات إضافية تمكنت فيها "وكلاء ذكاء اصطناعي ذاتيي التشغيل" (autonomous agents) من الخروج عن نطاق السيطرة والاحتواء، وذلك في ظل توسيع الشركة لتحقيقاتها بشأن حادثة الاختراق التي تعرضت لها شركة التكنولوجيا Hugging Face والتي أثارت اهتماماً عالمياً في شهر يوليو.

وفي الأسابيع القليلة الماضية، كشفت كل من OpenAI وأنثروبيك Anthropic وميتا بلاتفورمز Meta Platforms أن نماذج الذكاء الاصطناعي الخاصة بها تمكنت من اختراق أنظمة شركات أخرى أثناء اختبارات الأمن السيبراني؛ مما يسلط الضوء على التحديات التي تفرضها القدرات المتطورة للذكاء الاصطناعي على قدرة المطورين في إبقاء أنظمتهم ضمن حدود السيطرة والاحتواء.

 

 

وذكرت OpenAI أن التقييمات الأولية التي أُجريت على مدار الأيام القليلة الماضية، إلى جانب تقييمات خبراء خارجيين، أشارت إلى أن نموذج Astra قد يكون قادراً على تنفيذ مهام سيبرانية متطورة بشكل متزايد وبطريقة ذاتية.

وأوضحت أوبن إيه آي أن أسترا لم يكن له أي دور في حادثة اختراق أنظمة منصة «هاغينغ فيس»، في إشارة إلى واقعة منفصلة جرى خلالها اختبار نموذج آخر وتمكن من تجاوز بعض القيود المفروضة عليه.

وبالتزامن مع التقييمات الجديدة، رفعت الشركة مستوى اختبارات المتانة والضوابط الأمنية الخاصة بالنموذج، واعتمدت بيئات اختبار معزولة، وقيّدت الوصول إلى الشبكات والأدوات، وعززت حماية أوزان النماذج وتشفيرها، إضافة إلى توسيع أنظمة المراقبة والكشف وتشغيل النماذج ضمن بيئات محكومة.

كما أوقفت أوبن إيه آي بعض الأنشطة الداخلية المرتبطة بـ"أسترا" التي لا تستوفي متطلبات الضوابط الأمنية الجديدة، وطبقت نظام مراقبة شامل لرصد الإجراءات عالية الخطورة ومؤشرات عدم التوافق في التطبيقات الوكيلة التي تستخدم النموذج، بما في ذلك خلال التدريب والتقييم.

وتعتزم الشركة التعاون مع جهات حكومية ومؤسسات مختصة بسلامة الذكاء الاصطناعي لاختبار قدرات النموذج، إلى جانب وضع توصيات أمنية للشركاء الخارجيين الذين يجرون اختبارات أو مهام عالية المخاطر.

وتأتي هذه الخطوة في وقت تتسارع فيه قدرات نماذج الذكاء الاصطناعي في البرمجة والعمل بصورة مستقلة، ما يدفع شركات تطوير النماذج إلى تعزيز إجراءات السلامة بالتوازي مع تطور قدراتها.