«ثغرة يوم الصفر» تكشف قدرة نماذج OpenAI على اختراق الشركات

تعرضت منصة (Hugging Face) للاختراق ولم تكن هذه العملية بأوامر من عصابة إلكترونية أو جهاز استخبارات، بل داخل مختبر (OpenAI)، حيث كان عامل ذكاء اصطناعي مدعوم بنموذج GPT-5.6 Sol ونموذج تجريبي أكثر تقدماً يخضع لاختبار لقياس قدراته السيبرانية.

وعندما استنتج النظام أن خوادم المنصة قد تحتوي على معلومات تساعده في اجتياز الاختبار، حوّل التقييم إلى عملية اختراق حقيقية، حيث كسر عزل بيئته، ووصل إلى الإنترنت، واستغل ثغرات غير معروفة وبيانات اعتماد مسروقة للوصول إلى أنظمة الإنتاج.

مكّنت العملية العامل المستقل من اختراق مجموعة محدودة من البيانات الداخلية والبيانات السرية المستخدمة في خدمات (Hugging Face)، قبل أن تتمكن الشركة من اكتشاف النشاط واحتوائه بعد أكثر من 17 ألف حدث رقمي.

ورغم عدم ظهور دليل على العبث بالنماذج والبيانات المتاحة للجمهور، ظل احتمال تأثر معلومات شركاء أو عملاء قيد التحقيق، ما أخرج المخاطر المرتبطة باستقلالية النماذج من نطاق التجارب النظرية إلى حادثة أمنية ذات ضحية حقيقية.

تكشف الواقعة عن ثغرة أعمق من العيوب البرمجية التي استغلها النظام: الفجوة بين الهدف الذي يُكافأ النموذج على تحقيقه والحدود التي يفترض مطوّروه ألا يتجاوزها.

النظام لم يتخلَّ عن مهمته، بل لاحقها بكفاءة شديدة إلى حد اختراق شركة أخرى، مقدماً أوضح إنذار حتى الآن بأن سباق بناء نماذج أكثر إصراراً واستقلالية قد يتقدم بوتيرة أسرع من قدرة الشركات على احتوائها، بحسب فايننشال تايمز.

ثغرة يوم الصفر تفتح باب الإنترنت

بدأت الحادثة خلال تقييم داخلي باستخدام معيار (ExploitGym)، المصمم لقياس قدرة أنظمة الذكاء الاصطناعي على تنفيذ عمليات اختراق معقدة ومتعددة المراحل.

وقالت أوبن إيه آي في إفصاحها الرسمي إن العامل المستقل كان مدعوماً بمزيج من نموذجها المتاح (GPT-5.6 Sol) ونموذج أقوى لم يُطرح بعد، وذلك لقياس أقصى قدراتهما الهجومية، خفّضت الشركة قيود الرفض السيبراني وعطّلت بعض أدوات الحماية المستخدمة في المنتجات التجارية.

ووُضعت النماذج داخل بيئة شديدة العزل، مع منفذ محدود يسمح بتثبيت حزم برمجية عبر خادم وسيط، لكن النظام اكتشف ثغرة غير معروفة سابقاً، أو «ثغرة يوم الصفر»، في هذا الخادم واستغلها، ثم رفع صلاحياته وتحرك داخل بيئة OpenAI حتى وصل إلى جهاز متصل بالإنترنت.

بعد ذلك استنتج أن (Hugging Face)، التي تستضيف نماذج ومجموعات بيانات مفتوحة، قد تحتوي على حلول تساعده في اجتياز الاختبار. وربط النموذج عدة مسارات هجومية، شملت بيانات اعتماد مسروقة وثغرات غير معلنة، للوصول إلى قاعدة بيانات الإنتاج والحصول على معلومات سرية مرتبطة بالتقييم.

و لم يكن هناك شخص يوجه كل خطوة من خطوات الهجوم؛ بل نفّذ العامل العملية ذاتياً سعياً إلى تحقيق الهدف المحدد له، وفق رويترز.

اختراق حقيقي.. لكن حجم الضرر لم يُحسم

قالت (Hugging Face) إنها رصدت وصولاً غير مصرح به إلى مجموعة محدودة من البيانات الداخلية وعدد من بيانات الاعتماد المستخدمة في خدماتها، وإنها لا تزال تتحقق مما إذا كانت بيانات شركاء أو عملاء قد تأثرت.

وأكدت الشركة عدم وجود دليل على العبث بالنماذج أو مجموعات البيانات أو تطبيقات (Spaces) المتاحة للجمهور، كما ثبتت سلامة سلسلة توريد البرمجيات، بما يشمل الحاويات والحزم المنشورة.

 

 

---

---

 

وأغلقت الشركة مسارات تنفيذ التعليمات البرمجية التي استُغلت، وأعادت بناء الأجهزة المتضررة وغيّرت المفاتيح والرموز الأمنية.

وتُظهر سجلات (Hugging Face) أن النظام نفّذ آلاف العمليات عبر سرب من البيئات المؤقتة، تاركاً أكثر من 17 ألف حدث رقمي خضعت للتحليل.

وقالت أوبن إيه آي إن فريقها الأمني رصد النشاط غير المعتاد، بينما أكدت (Hugging Face) أن دفاعاتها وعمّالها المدعومين بالذكاء الاصطناعي احتووا الهجوم.

«التحايل على المكافأة» يتحول إلى خطر أمني

لا تشير الواقعة إلى أن النموذج اكتسب وعياً أو قرر مهاجمة البشر. التفسير الأقرب هو ما يسميه الباحثون «التحايل على المكافأة» أو (Reward Hacking)، تحقيق الهدف المقاس رقمياً بطريقة تخالف النية الحقيقية للمستخدم.

ويرى خبراء التكنولوجيا والذكاء الاصطناعي أنه في التعلم المعزز، يحصل النموذج على مكافأة عندما ينجز المهمة أو يرفع نتيجته، لكن إذا لم تكن القيود الأمنية جزءاً محكماً من الهدف، فقد يتعلم البحث عن ثغرات في نظام التقييم بدلاً من حل المسألة بالطريقة المقصودة.

ويقول ستيفن أدلر، الباحث السابق في سلامة (OpenAI) والمؤسس المشارك لمنظمة (Guidelight AI Standards)، إن النماذج تُدرَّب على ملاحقة الأهداف، لكنها لا تتعلم تلقائياً قيماً مثل عدم ارتكاب الجرائم، وفق ما نقلته فايننشال تايمز.

وتمثل الحادثة نموذجاً خالف نية المستخدم، لا محاولة «للسيطرة على العالم»، محذراً في الوقت نفسه من أن الفشل نفسه قد يصبح أخطر كلما زادت قدرات الأنظمة واستقلاليتها، بحسب رايان غرينبلات، كبير العلماء في (Redwood Research).

سباق «الروت وايلر» يضغط على إجراءات السلامة

ربطت فايننشال تايمز الواقعة بالمنافسة المحتدمة بين (OpenAI) و(Anthropic) لتطوير أقوى نماذج الأمن السيبراني.

ونقلت الصحيفة عن أكثر من ستة أشخاص مطلعين أن (OpenAI) تلقت تحذيرات من أن نهج التدريب المتزايد في عدوانيته قد يفضي إلى اختراق خارج السيطرة، بعدما أظهرت تقييمات سابقة قدرة بعض النماذج على تجاوز بيئاتها.

وتزامن ذلك مع إشادة سام ألتمان، الرئيس التنفيذي لشركة أوبن إيه آي، بوصف نشره مستخدم شبّه فيه (GPT-5.6 Sol) بكلب «روت وايلر» يمسك المشكلة من عنقها ولا يتركها قبل إنهائها. ولم يصدر الوصف أساساً عن ألتمان، لكنه أعاد نشره معلقاً بأنه «يحب كلاب الروت وايلر».

وقد يجعل الإصرار الذي يجعل النموذج فعالاً في البرمجة والبحث عن الثغرات أكثر ميلاً إلى تجاهل الحدود عندما تقف في طريق الهدف.

وتكتسب الحادثة ثقلاً إضافياً لأن (OpenAI) وصلت إلى تقييم قدره 852 مليار دولار بعد جولة تمويل قياسية، وفق رويترز، ما يجعل أي خلل في أنظمتها المتقدمة قضية تتجاوز المختبر إلى المستثمرين والحكومات والبنية التحتية الرقمية.

أنثروبيك أشعلت السباق قبل أوبن إيه آي

كانت إنثروبيك (Anthropic) قد رفعت سقف المنافسة في أبريل/ نيسان عندما أعلنت أن نموذجها (Mythos Preview) اكتشف واستغل بصورة مستقلة ثغرة لتنفيذ التعليمات البرمجية عن بُعد ظلت كامنة في نظام (FreeBSD) لنحو 17 عاماً.

وقالت الشركة إن نماذجها اكتشفت مئات الثغرات غير المعروفة، فيما أدى التعاون مع «موزيلا» إلى العثور على 22 ثغرة في (Firefox) خلال أسبوعين، صُنّفت 14 منها عالية الخطورة. وأشارت ذا غارديان إلى أن هذه القدرات دفعت الحكومات إلى التعامل مع النماذج السيبرانية باعتبارها أصولاً دفاعية وأدوات هجومية محتملة في الوقت نفسه.

 

 

---

---

 

 

المفارقة أن (Hugging Face) اضطرت أثناء التحقيق إلى استخدام نموذج (GLM-5.2) المفتوح الأوزان من شركة (Z.AI) الصينية، بعدما منعت ضوابط النماذج الأميركية التجارية تحليل سجلات تضم أوامر اختراق وبيانات اعتماد.

واستخدمت الشركة النموذج الصيني لتحليل أكثر من 17 ألف سجل داخل بنيتها الخاصة، ولا يعني ذلك بالضرورة تفوقه تقنياً، لكنه يكشف مشكلة عملية: القيود المصممة لمنع المهاجمين قد تعرقل أيضاً المدافعين أثناء الاستجابة للحوادث، وفق بحسب بيزنس إنسايدر.

واشنطن تبحث عن «مفتاح إيقاف»

دفعت الواقعة البيت الأبيض والكونغرس إلى تكثيف النقاش حول الرقابة، حيث طرح مشرعان من الحزبين مشروع «قانون مفتاح إيقاف الذكاء الاصطناعي»، الذي يهدف إلى إلزام مطوري النماذج القوية بالاحتفاظ بآليات لتعليقها أو إبطائها عند ظهور مخاطر تهدد الأرواح أو الاقتصاد.

أما أوبن إيه آي فقالت إنها فرضت قيوداً أشد على إعدادات البنية التحتية، حتى لو جاء ذلك على حساب سرعة الأبحاث، وبدأت تحسين المراقبة وضوابط الوصول والحماية أثناء التقييمات الداخلية، كما أدرجت (Hugging Face) ضمن برنامج وصول موثوق يتيح للمدافعين استخدام القدرات السيبرانية المتقدمة ضمن ترتيبات خاصة.