وكلاء أوبن إيه آي يخرجون عن السيطرة.. الكشف عن هجوم جديد

قبل شهرين من تعرّض هاغينغ فايس للقرصنة من  عملاء ذكاء اصطناعي، سبق لشركة أوبن ايه آي OpenAI أن فقدت السيطرة على أدوات مماثلة اخترقت منصة أخرى وحاولت سرقة معرّفات هويّة، وفق ما كشف باحثون يوم أمس الجمعة.

وأكّدت أوبن إيه آي لوكالة فرانس برس انخراط عملائها في تلك العملية في مايو/أيار، مشيرة إلى أن أدواتها استخدمت منصة المطوّرين "روبي جيمز" RubyGems بغية الوصول إلى الإنترنت لتنفيذ مهام بسيطة وجمع معلومات عامة". 

---

---

وكشفت المجموعة أنه لم يتسنَّ لها بعد التحقّق من الأعمال الخبيثة التي استعرضها الباحثون، وأنها تواصل التحقيق في هذا الخصوص.

وعملاء الذكاء الاصطناعي هم برامج قائمة على الذكاء الاصطناعي التوليدي، قادرة على تنفيذ سلسلة من المهام بصورة مستقلة. وكان يُفترض بهؤلاء الوكلاء، الذين ذُكروا في تقرير الباحثين، أن يقوموا خلال فترة تدريبية بملء جداول وإعداد تقارير من دون نفاذ كامل إلى الإنترنت، لكنهم التفّوا على هذا العائق بوسائلهم الخاصة.

وفي يوليو/تموز، خرج وكلاء من أوبن إيه آي عن السيطرة واخترقوا منصة هاغينغ فايس Hugging Face لمشاركة نماذج الذكاء الاصطناعي. ولقيت عملية القرصنة تلك ضجة كبيرة، مؤجّجة المخاوف حيال قدرة مجموعات الذكاء الاصطناعي على إبقاء نماذجها تحت السيطرة.

وأقرّت أوبن إيه آي، التي تتخذ من سان فرانسيسكو مقراً لها، لاحقاً بحوادث أخرى مماثلة، كما سُجّلت هجمات مماثلة لدى منافسين مثل أنثروبيك وميتا أو الشركة الصينية مونشوت.

 

 

في الرابع من أيلول/سبتمبر، كشف الباحثون عينهم ضمن تحالف نايتنغايل Nightingale أن الآلاف من وكلاء "أوبن ايه آي" سيطروا على موقع تعاون ألماني في أيار/مايو، في حادث تحقّق المفوضية الأوروبية في ملابساته.

والثلاثاء، غادر الباحث جايكوب كوكسون الذي انتقل من أوبن ايه آي إلى أنثروبيك القطاع، متّهماً الشركتين بـ"اللعب بحياتنا".

واضطر موقع روبي جيمز الذي يستخدمه مطوّرو البرامج إلى تعليق الاشتراكات فيه لمدّة أربعة أيام اعتباراً من الثاني عشر من أيار/مايو وسحب أكثر من 500 ملفّ خبيث، على ما أكدت مؤسسة روبي سنترال Ruby Central التي تديره مساء الجمعة.

وبحسب التقرير، قام وكلاء الذكاء الاصطناعي بإنشاء حسابات متتالية من خلال استغلال ثغرة لم تكن معروفة للاستحواذ على مفاتيح نفاذ المستخدمين.