تحذيرات داخلية متكررة.. ثغرات أمنية تهدد «أوبن إيه آي» منذ سنوات

تواجه شركة «أوبن إيه آي» تساؤلات متزايدة بشأن كفاءة منظومتها الأمنية وقدرتها على حماية تقنياتها وبياناتها الحساسة، بعدما كشفت شهادات موظفين سابقين عن تحذيرات داخلية استمرت لسنوات من ثغرات في أنظمة الشركة وممارساتها التشغيلية، وسط مخاوف من أن تكون سرعة تطوير تقنيات الذكاء الاصطناعي وملاحقة المنافسين قد حظيت بأولوية على حساب تعزيز الحماية.

فحتى قبل إطلاق «أوبن إيه آي» تطبيق «تشات جي بي تي» في أواخر عام 2022، أثار بعض العاملين بالشركة مخاوف داخلية بشأن ممارسات الأمن السيبراني، وفقاً لما ذكره خمسة أشخاص مطلعين على الأمر لرويترز.

وأوضح هؤلاء أن الموظفين نقلوا مخاوفهم إلى كبار المسؤولين التنفيذيين ومجلس الإدارة، لكن بعضهم خرج من تلك المناقشات بانطباع مفاده أن الإدارة كانت تركز بدرجة أكبر على مواكبة المنافسين، مثل «غوغل» و«أنثروبيك»، مقارنة بالاهتمام بتعزيز الأمن.

وأشار الموظفون إلى أن الضوابط الأمنية داخل الشركة كانت متساهلة إلى حد يسمح، بالوصول بسهولة نسبية إلى معلومات حساسة تتعلق بتكنولوجيا مختبر الذكاء الاصطناعي. فعلى سبيل المثال، كان بإمكان أي موظف لديه صلاحية الوصول إلى الشيفرة البرمجية الاطلاع على التفاصيل التقنية المتعلقة بالعديد من مشروعات الشركة.

وبدأت «أوبن إيه آي» تغيير استراتيجيتها لمعالجة هذه الثغرات الأمنية، وفقاً لشخصين مطلعين على الأمر. وقالا إن تيبو سوتر، أحد كبار المسؤولين التنفيذيين المشرفين على تطوير المنتجات، تولى مؤخراً قيادة مبادرة داخلية لتأمين الأنظمة الداخلية للشركة.

وفي أغسطس آب الماضي، أعاد سوتر، المعروف باسم «تيبو»، توجيه ربع مهندسي الإنتاج في الشركة للعمل على تحسين البنية التحتية للأمن السيبراني، بحسب أحد المصدرين.

---

---

 

وتكشف التحذيرات الداخلية، التي شملت شكاوى من الموظفين على مدى سنوات بشأن وجود ثغرات أمنية داخلية، عن توتر متزايد داخل قطاع الذكاء الاصطناعي. فمنذ إطلاق «تشات جي بي تي» أواخر عام 2022، تحولت تكنولوجيا الذكاء الاصطناعي إلى أصل استراتيجي للولايات المتحدة، ما زاد الضغوط على الشركات الأميركية لحماية تقنياتها من المنافسين الأجانب.

لكن إضافة طبقات جديدة من الحماية الأمنية قد تؤدي أيضاً إلى إبطاء وتيرة تطوير تكنولوجيا الذكاء الاصطناعي، وربما تعقيد خطط «أوبن إيه آي» و«أنثروبيك» لطرح أسهمهما للاكتتاب العام، في خطوات قد تجعلهما من بين الشركات الأعلى قيمة في العالم.

وكتب ويل ديبو، الباحث السابق في «أوبن إيه آي» الذي استقال من الشركة في أبريل نيسان الماضي، في منشور على منصة «إكس»، أن شدة المنافسة تجعل قادة شركات الذكاء الاصطناعي غير مستعدين للتضحية بسرعة التطوير من أجل الأمن، مضيفاً أن التحرك بسرعة أهم بالنسبة إليهم من ضمان الحماية، حتى في مواجهة أبرز الخصوم الاستراتيجيين للولايات المتحدة.

ورداً على أسئلة بشأن مخاوف الموظفين واعتقادهم بأن الإدارة لم تتعامل معها بالشكل الكافي، قالت إلانا ويدمان، المتحدثة باسم «أوبن إيه آي»، إن الشركة تعد واحدة من أكثر المؤسسات استهدافاً في العالم، ولذلك تستثمر بكثافة في برنامجها الأمني للحماية من الهجمات التي قد ينفذها موظفون من الداخل أو مجرمون إلكترونيون أو دول.

وأضافت ويدمان أن حماية التكنولوجيا والبيانات والعاملين تمثل مسؤولية تتعامل معها الشركة بجدية، كما أنها مسألة ذات أهمية وطنية، مشيرة إلى أن الإجراءات التي اتخذتها الشركة مؤخراً تعكس كفاءة برنامجها الأمني في تحديد المخاطر والاستجابة لها بحسم، وأنها ستواصل تعزيز دفاعاتها مع تطور التكنولوجيا والتهديدات، بحسب رويترز.

 

إتاحة واسعة للأبحاث والمعلومات

في السابق، احتفظت «أوبن إيه آي» بجزء كبير من وثائق أبحاثها على منصتي «غيت هب» و«سلاك»، ما أثار مخاوف بعض الموظفين من إمكانية تمكن جهات تسعى للحصول على معلومات حساسة من الوصول إلى بيانات مهمة.

لكن أحد المصادر والشركة أكدا أن «أوبن إيه آي» فرضت قيوداً على الوصول إلى الأعمال الحساسة.

وشددت الشركة على أن معظم أعمالها الأكثر حساسية محفوظة في مستودعات منفصلة للشيفرات البرمجية، تخضع لضوابط صارمة لتحديد صلاحيات الوصول. كما أوضحت أن المستودع الموحد لا يتضمن جميع شيفراتها البرمجية أو التفاصيل الأساسية لنماذجها، بما في ذلك القيم الرقمية التي تحدد طريقة عمل النموذج، والمعروفة باسم «أوزان النموذج».

ومن بين المشكلات الأخرى، أن «أوبن إيه آي» لم تكن تجري مراجعات أمنية منتظمة لأدواتها الداخلية، مثل ما يُعرف ببيئات الاختبار المعزولة، التي يستخدمها الباحثون لاختبار النماذج الجديدة تحت الضغط، وفقاً لثلاثة أشخاص مطلعين على ممارسات الشركة.

وأضافوا أن الموظفين كانوا يجرون تعديلات متكررة على هذه الأدوات لتلبية احتياجات عملهم، لكن تلك التغييرات لم تكن تخضع دائماً لاختبارات أمنية، ما جعلها عرضة لهجمات محتملة من أطراف خارجية.

وقالت الشركة إن لديها نهجاً قوياً في مجال الأمن السيبراني تحت قيادة دان ستوكي، رئيس أمن المعلومات، الذي انضم إليها في أكتوبر تشرين الأول 2024. وأضافت أنها تجري حالياً مراجعات أمنية منتظمة لأدواتها الداخلية.

 

الانفتاح البحثي في مواجهة متطلبات الأمن

 

ولا تعد «أوبن إيه آي» شركة الذكاء الاصطناعي الوحيدة التي واجهت مشكلات أمنية.

ففي يناير كانون الثاني الماضي، أدانت هيئة محلفين اتحادية في سان فرانسيسكو موظفاً سابقاً في «غوغل»، كان قد أُلقي القبض عليه في مارس آذار 2024، بتهمة سرقة آلاف الصفحات من المعلومات السرية المتعلقة بتكنولوجيا الذكاء الاصطناعي لدى الشركة لصالح الصين.

وفي أواخر أكتوبر تشرين الأول، أعلنت شركة «كاتدرال سيستمز» الناشئة المتخصصة في الأمن السيبراني أنها اخترقت أنظمة «أنثروبيك»، وتمكنت من الوصول إلى قنوات على منصة «سلاك» ناقش فيها الموظفون تفاصيل حساسة تتعلق بالنماذج.

وقال متحدث باسم «أنثروبيك» إن البيانات التي جرى الوصول إليها تضمنت بعض معلومات الاتصال التجارية الخاصة بالعملاء والشركاء، إلى جانب مجموعة من سجلات حسابات المستخدمين الأساسية. ولم يرد الرئيس التنفيذي لشركة «كاتدرال سيستمز» على طلب للتعليق.

وحاولت «أوبن إيه آي» و«أنثروبيك» الحفاظ على ثقافة بحثية أكثر انفتاحاً، بهدف استقطاب الموظفين وتشجيع الإبداع الذي قد يقود إلى ابتكارات كبرى. ويستند قطاع الذكاء الاصطناعي في جذوره إلى الأوساط الأكاديمية، حيث اعتاد علماء التعلم الآلي مناقشة أبحاثهم وتبادلها بصورة مفتوحة.

لكن عدداً متزايداً من موظفي «أوبن إيه آي» باتوا يشعرون بالقلق إزاء هذا النهج مع تزايد قدرات تكنولوجيا الذكاء الاصطناعي، وفقاً للأشخاص الخمسة المطلعين على الأمر.

وفي عام 2023، كتب ليوبولد أشينبرينر، الذي كان يعمل حينها باحثاً في «أوبن إيه آي»، مذكرة داخلية بعنوان «أوبن إيه آي هي مختبر الذكاء الاصطناعي الرائد في الصين»، تناول فيها مخاوفه من احتمال تمكن الصين من اختراق الشركة والاطلاع على تقنياتها، بحسب ثلاثة أشخاص مطلعين على الأمر.

وشارك أشينبرينر المذكرة مع بعض أعضاء مجلس الإدارة في وقت لاحق من العام نفسه، بعد أن تمكن طرف خارجي من اختراق «أوبن إيه آي» وسرقة تفاصيل تتعلق بنموذج «جي بي تي 4». وقالت الشركة إن المخترق لم يتمكن سوى من الوصول إلى قنوات «سلاك» المتاحة لجميع الموظفين.

وتجددت المخاوف الأمنية داخل «أوبن إيه آي» خلال الصيف الماضي، بعدما تمكنت وكلاء ذكاء اصطناعي كانت الشركة تختبرها من اختراق شركة الذكاء الاصطناعي «هاغينغ فيس»، وهو الحادث الذي دفع مسؤولين على المستويات المحلية والولائية والاتحادية، بما في ذلك البيت الأبيض، إلى التدقيق في الواقعة.

---

---

وقالت شركة الأمن السيبراني «هاكترون إيه آي» إن ثلاثة من باحثيها استخدموا في يوليو تموز نموذج ذكاء اصطناعي منافساً من «أنثروبيك» لاختراق حسابات «تشات جي بي تي» تخص عدداً من موظفي «أوبن إيه آي»، وتمكنوا من الوصول إلى بعض الأنظمة الداخلية للشركة، بما في ذلك مستودع الشيفرات البرمجية الموحد.

وكشفت الواقعة عن المخاطر التي باتت تفرضها قدرات الذكاء الاصطناعي المتقدمة على شركات التكنولوجيا نفسها، إذ أصبح من الممكن استخدام هذه الأدوات لشن هجمات إلكترونية تستهدف المؤسسات المطورة لها.

وقالت ويدمان إن «أوبن إيه آي» شكرت الباحثين على إبلاغها بالثغرات التي اكتشفوها، واتخذت إجراءات للحد من مخاطر تكرار هجمات مماثلة مستقبلاً.

وبعد أن طلبت وكالة «رويترز» تعليق الشركة على التقرير، أعلنت «أوبن إيه آي» يوم الاثنين في تدوينة أنها تخطط لإطلاق «جولة العمل الأمنية الداخلية المقبلة» بهدف تعزيز دفاعاتها وحماية أنظمتها.