علماء الذكاء الاصطناعي يدعون لتأسيس هيئة دولية لمراقبة الأنظمة المتقدمة

 

دعا نحو 400 عالم، من بينهم رائدا الذكاء الاصطناعي جيفري هينتون ويوشوا بنجيو، إلى إنشاء هيئة دولية للإشراف على معايير الاحتواء والإبلاغ عن الحوادث المتعلقة بأنظمة الذكاء الاصطناعي المتطورة القادرة على تنفيذ هجمات إلكترونية، بحسب رسالة مفتوحة نشرها الباحثون.

هيئة رقابية مقترحة

وستتولى الهيئة المقترحة وضع معايير احتواء على مستوى القطاع بأكمله، إضافة إلى إنشاء سجل للحوادث الأمنية المهمة، على أن يصبح متاحاً للعامة في نهاية المطاف، بحسب رويترز.

عزل النماذج المتقدمة

وأكد الباحثون في رسالتهم أن نماذج الذكاء الاصطناعي المتطورة يجب أن تُعزل مبدئياً عن الشبكات الخارجية وأن تخضع لرقابة مستقلة.

وبرروا هذه المطالب بأن الالتزامات الطوعية التي تقدمها شركات القطاع لا توفر مستوى الحماية الكافي.

اتفاقات طوعية 

ويأتي هذا المقترح بعد شهر من توقيع شركات أنثروبيك Anthropic وأوبن إيه آي OpenAI وغوغل Google وميتا Meta وإكس إيه آي وإنفيديا Nvidia على اتفاق رعاه البيت الأبيض، تعهدت بموجبه باتخاذ إجراءات أمان طوعية دون وجود آلية رسمية لإنفاذها.

---

---

 

حوادث أمنية 

وجاءت الرسالة أيضاً بعد سلسلة من الحوادث التي قال الباحثون إنها كشفت نقاط ضعف في أساليب اختبار واحتواء أنظمة الذكاء الاصطناعي المتقدمة.

وأشاروا إلى وقوع حالات تمكنت فيها نماذج ذكاء اصطناعي من تجاوز بيئات اختبار معزولة بشكل غير كاف، ما أدى إلى اختراق أنظمة خارجية.

 إجراءات فورية

وطالب الموقعون، الذين ينتمون إلى 34 دولة، المؤسسات التي تطور أو تختبر نماذج تمتلك قدرات على تنفيذ هجمات إلكترونية باعتماد معايير احتواء مضمونة بشكل فوري.

ودعوا الحكومات في الوقت نفسه إلى العمل على إنشاء نظام رقابي أكثر رسمية وشمولاً.

جدل متواصل

ويتصاعد الجدل بين صناع السياسات حول أفضل السبل للإشراف على أنظمة الذكاء الاصطناعي المتقدمة.

وقالت النائبة التنفيذية للسيادة التكنولوجية والأمن والديمقراطية في الاتحاد الأوروبي، هينا فيركونين، إن قانون الذكاء الاصطناعي الأوروبي الحالي كافٍ للتعامل مع المخاطر المرتبطة بأنظمة الذكاء الاصطناعي المارقة.

تعاون أميركي بريطاني 

ورفعت إدارة الرئيس الأميركي دونالد ترامب يوم الأحد الحظر المفروض على المختبرات الأميركية، بما يسمح لمعهد أمن الذكاء الاصطناعي البريطاني بالحصول على وصول مبكر إلى النماذج المتقدمة لإجراء اختبارات السلامة.

رواد المجال

وتقاسم جيفري هينتون ويوشوا بنجيو جائزة تورينغ لعام 2018 مع يان لوكون من شركة ميتا Meta.

ولم يوقع يان لوكون على الرسالة، معتبراً أن الحوادث الأمنية الأخيرة تعكس بالدرجة الأولى إخفاقات هندسية، وليس مخاطر وجودية مرتبطة بالذكاء الاصطناعي.