أوبن إيه آي تقيد معلومات الأسلحة للمراهقين لمنع العنف

أعلنت شركة أوبن إيه آي OpenAI، يوم الجمعة 30 أكتوبر/ تشرين الأول، أنها تعمل على تشديد القيود المفروضة ⁠على المعلومات المتعلقة بالأسلحة التي يقدمها تطبيق تشات جي بي تي للمراهقين، وذلك في إطار إجراءات وقائية جديدة تهدف إلى منع العنف في العالم الواقعي.

وتأتي هذه الخطوة في الوقت الذي تواجه فيه شركات الذكاء الاصطناعي مراقبة متزايدة بشأن المخاطر التي تشكلها روبوتات الدردشة على المستخدمين الشبان ودور الشركات في الكشف عن التهديدات التي قد تسبب ⁠الأذى.

ووفق هذا الإجراء، ستقيد أوبن إيه آي المعلومات العملية ⁠المتعلقة بالأسلحة وأنظمة الأمن التي يمكن إساءة استخدامها، وستنطبق هذه القيود على المراهقين حتى في حالة عدم وجود أي مؤشر على نية ارتكاب أعمال عنف.

سيتمكن تشات جي بي تي من ​إنهاء المحادثات ⁠تلقائياً بالنسبة لجميع ​المستخدمين عندما يبدو ​أن أحدهم يفرط التركيز على العنف، ‌وقد تعلق أوبن إيه آي الحسابات ⁠مؤقتاً بعد تكرار مثل هذه المحادثات مرات ​عدة.

ذكرت الشركة أيضاً أنها عززت نظامها لتقدير العمر لنقل المستخدمين الذين تقدر أن أعمارهم ⁠أقل من ​18 عاماً إلى تجربة المراهقين، وتخطط لإخطار أولياء الأمور إذا تم ​تعليق حساب أبنائهم المراهقين بسبب مناقشة العنف على نحو متكرر.

وتقيد أوبن إيه.آي بالنسبة لجميع المستخدمين التفاصيل المتعلقة بالهجمات الجماعية السابقة، بما يشمل الأسلحة المستخدمة وكيفية الحصول عليها. 

قالت الشركة إن الإجراءات الوقائية الجديدة ستبدأ في التطبيق خلال الأسابيع القليلة المقبلة، وستواصل تحسينها.

كانت أوبن إيه آي ذكرت هذا الشهر أن المراهقين يقضون ​في المتوسط أقل من ​15 دقيقة يومياً على تشات جي بي تي، وذلك في تقريرها الأول عن استخدام المراهقين المنصة.

كشف تقرير صادر عن منظمة "كومون سينس ميديا" غير الربحية هذا ​الشهر أن النسخة المخصصة للمراهقين من "تشات جي بي تي" غالباً ما كانت تنبه أولياء الأمور ‌متأخراً أو لا تنبههم على الإطلاق عندما كانت حسابات المراهقين تتضمن محادثات عن الانتحار أو إيذاء النفس أو اضطرابات ​الأكل.