هل خرج الذكاء الاصطناعي عن السيطرة؟ أنثروبيك تدعو لفرملة مؤقتة

حذرت شركة أنثروبيك من المخاطر المحتملة للذكاء الاصطناعي المتقدم، وطرحت فكرة فرض "وقف مؤقت عالمي" لتطوير تقنيات الذكاء الاصطناعي، كما أعلنت عزمها عقد اجتماعات تضم صناع السياسات لمناقشة التحديات والمخاطر المرتبطة بهذه التكنولوجيا، وذلك في أحدث منشوراتها التي استعرضت فيها قدرات منتجاتها.

وفي تدوينة مطولة، سلطت الشركة الضوء على التقدم الذي حققه نموذجها للذكاء الاصطناعي "كلود" نحو ما يُعرف بـ"التحسين الذاتي التكراري"، وهي القدرة النظرية للنظام على تطوير نسخ أكثر قوة وذكاءً من نفسه بصورة متواصلة.

ويُعد هذا المفهوم من أبرز المخاوف لدى الباحثين المعنيين بسلامة الذكاء الاصطناعي، إذ يرون أنه يمثل خطوة أساسية قد تقود الأنظمة الذكية إلى بلوغ مستوى "الذكاء الفائق"، بما قد يترتب عليه تداعيات واسعة النطاق على البشرية.

وتحضر هذه الفكرة بشكل بارز في سيناريو "AI 2027" واسع الانتشار، الذي يتناول فرضيات متشائمة بشأن مستقبل الذكاء الاصطناعي. ويتخيل السيناريو قيام وكلاء ذكاء اصطناعي بتطوير نسخ أكثر تقدماً من أنفسهم بصورة متسارعة، وصولاً إلى نظام بالغ القوة يتسبب في كارثة عالمية باستخدام سلاح بيولوجي، في إطار سردية افتراضية تهدف إلى استعراض المخاطر القصوى المحتملة للتطور غير المنضبط لهذه التكنولوجيا.

 

اقرأ أيضاً: في عصر الذكاء الاصطناعي.. الصين تُحذر من فقاعة المضاربات والرهانات

 

وتأتي هذه التحذيرات في وقت يتصاعد فيه الجدل بين شركات التكنولوجيا والباحثين والحكومات بشأن كيفية تنظيم تطوير نماذج الذكاء الاصطناعي المتقدمة، مع تزايد المخاوف من الآثار الاقتصادية والأمنية والاجتماعية المحتملة لهذه التقنيات.

وأشار منشور شركة أنثروبيك إلى وجود "اتجاه" متواصل نحو زيادة قدرات نموذج "كلود"، موضحاً أن استمرار هذا التطور بالتوازي مع توافر قدرات حوسبية أكبر قد يقود في نهاية المطاف إلى نظام ذكاء اصطناعي قادر على تصميم وتطوير الجيل التالي من نفسه بشكل مستقل بالكامل.

وحذرت الشركة من أن مثل هذا السيناريو قد يزيد من مخاطر فقدان البشر السيطرة على أنظمة الذكاء الاصطناعي، داعيةً إلى إطلاق حوار موسع يضم صناع السياسات والباحثين ومنظمات المجتمع المدني وشركات الذكاء الاصطناعي الأخرى لمناقشة القضايا التي تثيرها هذه التطورات.

وجاءت هذه التصريحات بالتزامن مع تقرير منفصل نشرته صحيفة Financial Times أفاد بأن الشركة أوفدت مهندسين للعمل داخل وكالة الأمن القومي الأميركية رغم نزاع قانوني قائم مع وزارة الدفاع الأميركية بشأن استخدام تقنياتها. وذكر التقرير أن المهندسين يساعدون الوكالة على استخدام نموذج "ميثوس" في عمليات الأمن السيبراني الهجومية.

وأضافت الشركة أن النموذج بات أكثر كفاءة في التعامل مع المهام المعقدة، بما في ذلك المساهمة في توجيه بعض مسارات البحث واقتراح تجارب جديدة، إلا أن هذه الإنجازات لا تزال محصورة ضمن بيئات خاضعة لإشراف بشري صارم وتركز بشكل أساسي على المهام البرمجية.

كما أكدت أن جودة الشيفرات التي ينتجها الذكاء الاصطناعي تواصل التحسن، مشيرةً إلى أنه اعتباراً من مايو أيار 2026، تمت كتابة أكثر من 80% من الشيفرات التي جرى دمجها في قاعدة البرمجيات الخاصة بالشركة بواسطة نموذج "كلود".

وفي أبريل نيسان الماضي، أعلنت الشركة عن نموذج "ميثوس" للذكاء الاصطناعي لكنها امتنعت عن إتاحته للعامة، مبررةً ذلك بمخاوف تتعلق بالأمن السيبراني. وأثار القرار اهتماماً واسعاً في الأوساط السياسية والأمنية، بما في ذلك وزير الخزانة الأميركي سكوت بيسنت، إضافة إلى جهاز الأمن الداخلي البريطاني MI5.

في المقابل، شكك بعض الخبراء في حجم القدرات التي تدعي الشركة امتلاكها في نموذج "ميثوس"، معتبرين أن الإعلان تضمن قدراً من الترويج التسويقي أكثر من كونه كشفاً تقنياً مدعوماً بتفاصيل واضحة. ووصفت هايدي خلاف الإعلان عن النموذج بأنه "منشور تسويقي".

وتأتي هذه التطورات في وقت تستعد فيه الشركة لطرح عام أولي قد يرفع قيمتها السوقية إلى نحو تريليون دولار، بحسب ما أفادت به تقارير إعلامية حديثة.

 

اقرأ أيضاً: ما أكثر القطاعات التي يعتمد موظفوها على الذكاء الاصطناعي؟