الرئيس التنفيذي لشركة مايكروسوفت: الذكاء الاصطناعي يحتاج إلى "مكبح طوارئ" يتحكم فيه البشر

دعا  رئيس مجلس إدارة شركة مايكروسوفت ومديرها التنفيذي، ساتيا ناديلا، يوم السبت 10 أكتوبر/ تشرين الأول، إلى بناء أنظمة ذكاء اصطناعي متقدمة مزودة بضوابط احتواء مستقلة، و"فرامل طوارئ" تُمكّن الأشخاص المُصرّح لهم من إيقاف النموذج مؤقتاً أو إغلاقه أثناء تنفيذ المهمة.

وكتب ناديلا في منشور على منصة التواصل الاجتماعي إكس: "نحن بحاجة إلى إحاطة النماذج غير الحتمية بتصميم نظام قوي وحتمي، وضوابط بشرية، وإجراءات تشغيل موثوقة، ووضع معايير صناعية حيثما تكون المعايير الحالية غير كافية".

وأضاف: "إن التعامل مع نماذج الأوزان المغلقة والمفتوحة الرائدة كما لو كانت مخاطر داخلية هو سبيل لبناء مثل هذا النظام".

وتأتي تصريحات ناديلا وسط تحذيرات من كبار المديرين التنفيذيين والباحثين في مجال التكنولوجيا، بمن فيهم بيل غيتس، المؤسس المشارك لشركة مايكروسوفت، وداريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، وسام ألتمان، الرئيس التنفيذي لشركة أوبن إيه آي، وإيلون ماسك، الرئيس التنفيذي لشركة سبيس إكس، بشأن عدم كفاية بروتوكولات أمان الذكاء الاصطناعي، وادعاءات بأن هذه التقنية تتطور بسرعة فائقة.

وقد استقال باحث في مجال الذكاء الاصطناعي من شركة أنثروبيك الشهر الماضي، واتهم الشركة، ومنافستها الرئيسية أوبن إيه آي، بـ"المقامرة بحياتنا". 

في وقت لاحق من ذلك اليوم، صرّح مسؤولٌ في شركة أنثروبيك، متخصصٌ في سلامة الذكاء الاصطناعي، بأن هناك احتمالاً يزيد عن 10% أن تُؤدي هذه التقنية إلى "إبادة البشرية جمعاء" خلال العقد القادم.

في المقابل، قلّل الرئيس دونالد ترامب مراراً من شأن مخاطر انقراض الذكاء الاصطناعي، مؤكداً بدلًا من ذلك على ضرورة أن يتفوق هذا القطاع على الصين. كما أعلن ترامب مؤخراً عن "قوة الذكاء الاصطناعي" الجديدة، بقيادة مدير المخابرات الوطنية جاي كلايتون، لدعم هذا القطاع واستئصال الجهات الخبيثة.

 

 

وكتب ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، يوم السبت، أن أنظمة الذكاء الاصطناعي يجب أن تُصمّم وفقاً لـ"مبادئ قابلية المراقبة".

وشملت هذه المبادئ، بحسب ناديلا، تنوّع النماذج؛ وبصمةً واضحةً لسلوك النموذج؛ واختبارًا مستمرًا للنظام؛ وضوابط مستقلة وقابلة للتدقيق؛ والاحتواء؛ والإبلاغ عن الحوادث.

وكتب أيضًا: "لن يكون نظام الذكاء الاصطناعي الأكثر جدارةً بالثقة هو النظام الذي يمتلك النموذج الذي نثق به أكثر من غيره، بل سيكون النظام الذي يُتيح لنا الوثوق به أقل من غيره".