شركة OpenAI تستأنف تدريب نماذج الذكاء الاصطناعي المتطورة
سام ألتمان، أوبن إيه آي / AFP
أعلنت شركة أوبن إيه آي OpenAI، بقيادة سام ألتمان، يوم الجمعة 23 أكتوبر/ تشرين الأول، استئناف تدريب نماذج التعلم المعزز واستخدامها الداخلي لأحدث حلول الذكاء الاصطناعي، وذلك بعد تشديدها لإجراءات الأمان ومنعها الوصول إلى الإنترنت لتدريب النماذج التجريبية.
وتتزايد المخاوف بشأن قدرة أنظمة الذكاء الاصطناعي المتطورة على تحديد واستغلال الثغرات البرمجية، بما في ذلك تلك الموجودة في أنظمة الحماية.
أعلنت شركة OpenAI في منشور على مدونتها أنها أوقفت تدريب وتقييم نماذجها الأكثر كفاءة بعد أن استغل نموذج بحثي داخلي خللاً في الإعدادات لفترة وجيزة للحصول على وصول محدود إلى الإنترنت في 2 سبتمبر.
واستأنفت الشركة، مطورة ChatGPT، تدريب التعلم المعزز والاستدلال الداخلي لنماذجها الرائدة في 1 أكتوبر بعد تطبيق إجراءات وقائية إضافية.
وأعلنت OpenAI أنها أطلقت حملة لفحص بنيتها التحتية البحثية بحثاً عن ثغرات قد تسمح للنماذج بالهروب من بيئات الحوسبة المعزولة.
وأفادت شركتا METR وRedwood Research، المتخصصتان في تقييم سلامة الذكاء الاصطناعي، يوم الخميس، باكتشافهما عدة ثغرات جديدة في النظام الداخلي لشركة OpenAI.
وتجري الشركة مراجعة شاملة لنشاط نماذج الذكاء الاصطناعي التابعة لها بعد اختراق Hugging Face غير المقصود.
وأبلغت OpenAI أكثر من 100 منظمة عن حوادث أنشطة غير مصرح بها مرتبطة بوكلاء الذكاء الاصطناعي التابعين لها.
تابعونا على منصات التواصل الاجتماعي