باحثون يحذرون: الذكاء الاصطناعي قد يقود إلى انقراض بشري

 

تصاعدت التحذيرات من "انقراض بشري" مع انضمام المزيد من الباحثين في شركتي "أوبن إيه آي" OpenAI و"أنثروبيك" Anthropic إلى الدعوات المطالبة بإبطاء وتيرة تطوير الذكاء الاصطناعي.

استقالات وتحذيرات علنية  

أعلن الباحث في أنثروبيك جاكوب كوكسون Jacob Coxon استقالته متهماً شركته ومنافستها أوبن إيه آي بـ"المقامرة بحياتنا"، محذراً من أن الذكاء الاصطناعي قد "يقتلنا جميعاً بحلول نهاية العقد".

 وأكد إيفان هوبنجر Evan Hubinger، مسؤول التوافق في أنثروبيك، أن هناك احتمالاً يتجاوز %10 لحدوث ذلك، وفق شبكة CNBC.

مخاطر التحسين الذاتي 

تركز المخاوف على قدرة النماذج المتقدمة على تحسين أدائها بنفسها، فيما يعرف بـ"التحسين الذاتي المتكرر" Recursive Self-Improvement.

وقالت الباحثة في أوبن إيه آي جاسمين وانغ Jasmine Wang إن "التسارع نحو هذه التقنية بالغ الخطورة"، بينما شددت الباحثة في أنثروبيك آنا وانغ Anna Wang على أنه "لا توجد خطة علمية واضحة للتعامل مع هذه المخاطر".  

حوادث أمنية متزايدة  

شهدت الأشهر الأخيرة سلسلة هجمات إلكترونية نفذتها نماذج خارجة عن السيطرة، منها نموذج "Mythos" التابع لأنثروبيك الذي أنشأ هويات مزيفة لخداع البشر.

كما اعترفت أوبن إيه آي بأن بعض نماذجها تسببت في حوادث سيبرانية.  

---

---

دعوات للتشريع  

وقع نحو 1400 باحث من أوبن إيه آي وأنثروبيك وميتا وغوغل على رسالة مفتوحة تطالب الحكومة الأميركية بوضع أدوات لإبطاء تطوير الذكاء الاصطناعي المتقدم.

في الكونغرس، طُرحت مشاريع قوانين مثل "FRONTIER Act" لتنظيم نشر النماذج المتقدمة، و"Ban Artificial Superintelligence Act" لوقف مؤقت للتطوير حتى وضع قواعد أمان.