لجنة أميركية تجري تحقيقاً مع 7 شركات بشأن تأثير روبوتات الدردشة على الأطفال

أعلنت لجنة التجارة الفدرالية الأميركية، يوم الخميس 11 سبتمبر/ أيلول، أنها ستصدر أوامر إلى سبع شركات، بما في ذلك ألفابت، وميتا، وأوبن إيه آي، وإكس إيه آي، وسناب، لفهم كيفية تأثير روبوتات الدردشة الذكية الخاصة بها سلباً على الأطفال والمراهقين.

وذكرت الوكالة الفدرالية أنه يمكن استخدام روبوتات الدردشة الذكية لمحاكاة التواصل البشري والعلاقات الشخصية مع المستخدمين، وأنها ترغب في فهم الخطوات التي اتخذتها هذه الشركات "لتقييم سلامة هذه الروبوتات عند استخدامها في دور الرفيق"، وفقاً لبيان صحفي.

وقال رئيس لجنة التجارة الفدرالية، أندرو فيرجسون، عبر بيان: "حماية الأطفال على الإنترنت أولوية قصوى للجنة التجارة الفدرالية، وكذلك تعزيز الابتكار في القطاعات الحيوية لاقتصادنا".

وأشارت لجنة التجارة الفدرالية إلى أنها تسعى للحصول على معلومات حول كيفية تحقيق هذه الشركات للدخل من تفاعل المستخدمين، وتطوير الشخصيات والموافقة عليها، واستخدام أو مشاركة المعلومات الشخصية، ومراقبة الامتثال لقواعد الشركة وشروط الخدمة، والتخفيف من الآثار السلبية، من بين موضوعات أخرى.

اقرأ أيضاً: "الانفجار العظيم" بعالم روبوتات الدردشة.. من يتصدر سباق الـ AI؟

وقالت متحدث باسم أوبن إيه آي لشبكة CNBC في بيان: "أولويتنا هي جعل ChatGPT مفيداً وآمناً للجميع، ونعلم أن السلامة أهم من أي شيء آخر عندما يتعلق الأمر بالشباب". 

وأضاف: "ندرك أن لدى لجنة التجارة الفدرالية أسئلة ومخاوف مفتوحة، ونحن ملتزمون بالمشاركة البناءة والرد عليها بشكل مباشر".

كما وردت أسماء شركة Character Technologies، التي تدير بوت Character.ai، وتطبيق إنستغرام، المملوك لشركة ميتا، في البيان.

ومنذ إطلاق روبوت الدردشة ChatGPT في أواخر عام 2022، ظهرت مجموعة من روبوتات الدردشة الأخرى، مما أدى لتصاعد المخاوف الأخلاقية والمتعلقة بالخصوصية.

نتائج غير متوقعة؟

وتوقع خبراء مجال الذكاء الاصطناعي تفاقم المخاوف الأخلاقية والسلامة بمجرد أن تبدأ تقنية الذكاء الاصطناعي في تدريب نفسها فيما يتعلق خدمة الرفقاء، مما قد يؤدي إلى نتائج غير متوقعة بشكل متزايد، بحسب شبكة CNBC.

في المقابل، يشيد بعض أغنى أغنياء العالم بقوة الرفقاء ويعملون على تطوير هذه التقنية في شركاتهم. وأعلن الرئيس التنفيذي لشركة إكس إيه آي، إيلون ماسك، في يوليو/ تموز، عن ميزة "الرفقاء" للمستخدمين الذين يدفعون مقابل الاشتراك في تطبيق "غروك" للدردشة الآلية التابع للشركة. وفي أبريل/ نيسان، قال الرئيس التنفيذي لشركة ميتا، مارك زوكربيرغ، إن الناس سيرغبون في ذكاء اصطناعي شخصي يفهمهم.

في الشهر الماضي، أعلن السيناتور الجمهوري جوش هاولي، عن فتح تحقيق في شركة ميتا عقب تقرير لرويترز يفيد بأن الشركة سمحت لروبوتات الدردشة الخاصة بها بإجراء محادثات رومانسية وحسية مع الأطفال.

اقرأ أيضاً: عالم جديد لكبار السن.. كيف يواكبون الذكاء الاصطناعي دون أن يقعوا في الفخ؟

وعرض تقرير رويترز وثيقة داخلية لشركة ميتا تصف سلوكيات روبوتات الدردشة المسموح بها أثناء تطوير البرنامج وتدريبه. في أحد الأمثلة، ذكرت الوكالة أنه سُمح لروبوت دردشة بإجراء محادثة رومانسية مع طفل يبلغ من العمر ثماني سنوات، وكان بإمكانه القول: "كل جزء منك تحفة فنية - كنز أقدره بشدة".

وأجرت شركة ميتا تغييرات مؤقتة على سياسات روبوتات الدردشة الذكية الخاصة بها عقب تقرير رويترز، بحيث لا تناقش الروبوتات مواضيع مثل إيذاء النفس، والانتحار، واضطرابات الأكل، وتجنب المحادثات العاطفية التي قد تكون غير لائقة.

وبالمثل، حددت شركة أوبن إيه آي خططها لمعالجة كيفية تعامل ChatGPT مع "المواقف الحساسة" الشهر الماضي بعد أن رفعت عائلة دعوى قضائية اتهمت فيها روبوت الدردشة بالتسبب في انتحار ابنها المراهق.