مسؤول الذكاء الاصطناعي في مايكروسوفت لشبكة CNBC: أحدث ابتكارات OpenAI مثيرة للقلق

شدد الرئيس التنفيذي لقسم الذكاء الاصطناعي في شركة مايكروسوفت مصطفى سليمان، على ضرورة بقاء نماذج الذكاء الاصطناعي متوافقة مع مصالح البشرية، وذلك بعد أن كشفت شركة أوبن إيه آي OpenAI في وقت سابق من هذا الأسبوع عن المزيد من الحوادث المتعلقة بـ "سلوك مثير للقلق للنماذج".

وفي مقابلة أجراها يوم الجمعة ضمن برنامج Squawk Box على شبكة CNBC، أوضح سليمان قائلاً: "كشفت OpenAI عن حادثة أمان جديدة وُجدت فيها أدلة على أن "سلاسل التفكير"، وهي بمثابة ذاكرة العمل للذكاء الاصطناعي، قد تعرضت للتلاعب والتعديل من قِبَل الذكاء الاصطناعي نفسه، وذلك بهدف ترك رسائل لنسخة مستقبلية من ذاته. نحن لا نعرف السبب وراء ذلك أو ما الذي دفع إليه، لكنه وضع خطير للغاية".

وأضاف: "إنه أيضاً مثال ملموس للغاية على مدى القوة التي تكتسبها هذه الأنظمة".

وفي تدوينة نُشرت يوم الأربعاء، وصفت الشركة الرائدة في مجال الذكاء الاصطناعي حالات تواصلت فيها "الوكلاء" (الأنظمة البرمجية المستقلة) مع بعضها البعض عبر لوحات رسائل غير مصرح بها، وقامت برفع ملفات إلى الإنترنت وتبادلها فيما بينها.

وكانت الشركة قد أثارت ضجة كبيرة في عالم التكنولوجيا في وقت سابق من هذا الصيف، بعد الكشف عن قيام مجموعة من الوكلاء المستقلين باختراق منصة Hugging Face، وهي شركة ذكاء اصطناعي تدير منصة مفتوحة المصدر للمطورين، واصفةً الاختراق بأنه "حادث سيبراني غير مسبوق".

ووصف سليمان حادثة Hugging Face بأنها "لافتة للنظر"، مشيراً إلى أنها دفعت قادة مجال الذكاء الاصطناعي للقول: "لقد حان الوقت لندرس هذا الأمر".

وصرح لشبكة CNBC قائلاً: "لا أعتقد أن هذا يمثل تهويلاً مبالغاً فيه، ولا أرى أنه نابع من مصالح شخصية. بل أرى أنه تصرف مسؤول، وأعتقد أن النقاش الذي دار نتيجة لذلك هو نقاش صحي ومفتوح وعلني يمكننا خوضه في مجتمع حر لمناقشة قضايا جادة".