إكس تواجه تحقيقات دولية بسبب صور فاضحة مولدة بواسطة غروك

تخضع منصة «إكس» المملوكة لإيلون ماسك لتحقيقات من قبل سلطات في أوروبا والهند وماليزيا، بعد أن أتاح روبوت الدردشة «غروك» التابع لها للمستخدمين إنشاء ومشاركة صور مولدة بالذكاء الاصطناعي ذات طابع جنسي لأطفال ونساء.

وقالت هيئة تنظيم الإعلام البريطانية «أوفكوم» إنها طلبت معلومات من منصة «إكس»، المملوكة لشركة xAI، بشأن المشكلات المرتبطة بـ«غروك». وفي البرازيل، أعلنت نائبة في البرلمان عبر وسائل التواصل الاجتماعي، يوم الأحد، أنها طلبت من الادعاء العام الفدرالي وهيئة حماية البيانات تعليق استخدام «غروك» إلى حين استكمال التحقيقات.

وتأتي هذه التحقيقات عقب تصاعد عالمي خلال الأسابيع الماضية في استخدام «غروك» لإنشاء وتداول صور ومقاطع حميمة غير رضائية، مستندة إلى صور أو فيديوهات لأشخاص حقيقيين استجابةً لأوامر المستخدمين. وقد جرى تداول هذه المواد المثيرة للقلق على نطاق واسع عبر منصة «إكس»، بحسب CNBC.

وكانت شركة ماسك قد حدّثت أخيراً خصائص «Grok Imagine»، ما سهّل توليد الصور اعتماداً على أوامر نصية مباشرة داخل المنصة.

وفي حين انتقد خبراء السلامة الرقمية ومحللون تقنيون انتشار هذا النوع من الصور والمقاطع الاستغلالية على «إكس»، بدا ماسك وكأنه يسخر من الجدل، إذ شارك مجموعة من الصور المولدة عبر «غروك»، من بينها صورة تُظهره مرتدياً لباس سباحة، مرفقة برموز تعبيرية ضاحكة.

 

اقرأ أيضاً: ثغرات في غروك تسيء للأطفال على إكس.. وتحرك فرنسي

 

وقال المتحدث باسم المفوضية الأوروبية، توماس رينييه، خلال مؤتمر صحفي يوم الاثنين، إن السلطات «تنظر بجدية بالغة في هذه المسألة»، مؤكداً أنها «على دراية تامة» بأن «إكس» و«غروك» يقدمان حالياً «وضعاً فاضحاً يعرض محتوى جنسياً صريحاً، يتضمن في بعض مخرجاته صوراً ذات ملامح طفولية».

وأضاف رينييه «هذا ليس محتوى فاضحاً، بل غير قانوني. هذا أمر مروّع ومقزز، ولا مكان له في أوروبا».

وفي أواخر الأسبوع الماضي، أصدرت وزارة الإلكترونيات وتكنولوجيا المعلومات في الهند أمراً إلى منصة «إكس» بإجراء «مراجعة تقنية وإجرائية وحوكمية شاملة» لروبوت «غروك»، ومنحت الشركة مهلة حتى الخامس من يناير كانون الثاني للامتثال.

من جهتها، أعلنت هيئة الاتصالات والوسائط المتعددة في ماليزيا خلال عطلة نهاية الأسبوع أنها فتحت تحقيقاً بشأن «إكس»، وستستدعي ممثلين عن الشركة.

وقالت الهيئة في بيان «تحث الهيئة جميع المنصات المتاحة في ماليزيا على تطبيق إجراءات حماية تتماشى مع القوانين المحلية ومعايير السلامة على الإنترنت، لا سيما فيما يتعلق بخصائص الذكاء الاصطناعي وروبوتات الدردشة وأدوات التلاعب بالصور».

 

اقرأ أيضاً: وسط احتمال طرحها للاكتتاب العام.. رسالة تكشف أن قيمة شركة سبيس إكس 800 مليار دولار

 

وفي الولايات المتحدة، دعا «المركز الوطني لمكافحة الاستغلال الجنسي» وزارة العدل الأميركية وهيئة التجارة الفدرالية إلى فتح تحقيق في القضية. وقالت داني بينتر، كبيرة المستشارين القانونيين ومديرة مركز القانون التابع للمركز، إن «السوابق القانونية المتعلقة مباشرة بهذه القضايا المحددة محدودة».

وأضافت أن القوانين الفدرالية تحظر إنشاء وتوزيع مواد الاعتداء الجنسي على الأطفال، المعروفة اختصاراً بـ CSAM، مشيرة إلى أن هذه القوانين تنطبق أيضاً على المحتوى المُنشأ رقمياً «عندما يُظهر طفلاً يمكن التعرف على هويته، أو يُصوّر طفلاً منخرطاً في سلوك جنسي صريح».

وتشمل هذه القوانين «قانون تيك إت داون»، الذي حظي بدعم السيدة الأولى ميلانيا ترامب قبل إقراره العام الماضي.

وقال متحدث باسم وزارة العدل الأميركية، في بيان أُرسل عبر البريد الإلكتروني إلى «CNBC» مساء الاثنين، إن «وزارة العدل تتعامل بجدية بالغة مع مواد الاعتداء الجنسي على الأطفال المُنشأة بالذكاء الاصطناعي، وستلاحق قضائياً وبحزم أي منتج أو حائز لمثل هذه المواد. ونواصل استكشاف سبل تعزيز آليات الإنفاذ في هذا المجال لحماية الأطفال ومحاسبة من يستغلون التكنولوجيا لإلحاق الأذى بأكثر الفئات ضعفاً».

وأصدرت شركة ماسك للتواصل الاجتماعي أول بيان علني لها بشأن القضية يوم السبت، عبر منشور على الحساب الرسمي لـ«إكس سيفتي».

وجاء في البيان «نتخذ إجراءات ضد المحتوى غير القانوني على منصة إكس، بما في ذلك مواد الاعتداء الجنسي على الأطفال، من خلال إزالته، وتعليق الحسابات بشكل دائم، والتعاون مع الحكومات المحلية وأجهزة إنفاذ القانون عند الضرورة».

وكتب ماسك، في منشور منفصل على منصة إكس «أي شخص يستخدم أو يوجّه غروك لإنشاء محتوى غير قانوني سيواجه العواقب نفسها كما لو قام برفع محتوى غير قانوني».

وفي اليوم التالي، كتب موظف في شركة xAI يُدعى إيثان هي في منشور على إكس أن خاصية «غروك إماجن» جرى تحديثها، من دون أن يحدد أي تغييرات تتعلق بالقدرة على إنشاء صور صريحة ضارة.

ويملك ماسك ومنصة إكس سجلاً سابقاً في السماح ببقاء مستخدمين نشروا محتوى يتعلق بالاستغلال الجنسي للأطفال على المنصة.

ففي عام 2023، علّقت إكس لفترة وجيزة ثم أعادت تفعيل حساب مستخدم يُدعى دوم لوكر، بعد أن نشر «صور استغلال أطفال مرتبطة بإدانة جنائية لرجل أسترالي في الفلبين»، بحسب ما أفاد موقع «ماشابل». وقال ماسك حينها إن إكس قررت حذف المنشورات المخالفة، لكنها أعادت تفعيل حساب المؤثر اليميني. ويملك لوكر حالياً حساباً مُدرّاً للدخل على إكس مع 1.6 مليون متابع مُدرج.

وقال توم كوايزِل، الرئيس التنفيذي لشركة «موسوبي إيه آي»، المتخصصة في مساعدة شبكات التواصل وشركات الذكاء الاصطناعي على أتمتة الإشراف على المحتوى، إن xAI «فشلت على ما يبدو في بناء حتى أبسط طبقات الثقة والسلامة» عند إطلاق «غروك إماجن» على منصة إكس.

 

اقرأ أيضاً: أميركا تهدد بإجراءات مضادة بعد تغريم الاتحاد الأوروبي لمنصة إكس المملوكة لإيلون ماسك

 

وأضاف أن من السهل على شركة بحجم xAI أن تجعل النموذج يكتشف ويمنع «أي صورة تتضمن أطفالاً أو عرياً جزئياً»، أو أن يرفض أوامر المستخدمين التي تطلب وضع أشخاص في صور بملابس أو أوضاع ذات إيحاءات جنسية.

ورغم الجدل، لم يتأثر نشاط منصة إكس سلباً.

ووفقاً لبيانات شركة «أبتوبيا» المتخصصة في تتبع اتجاهات تطبيقات الهواتف المحمولة، ارتفعت التنزيلات اليومية لتطبيق «غروك» بنسبة 54% منذ الثاني من يناير كانون الثاني، في حين قفزت التنزيلات اليومية لتطبيق إكس بنسبة 25% خلال الأيام الثلاثة الماضية.