غوغل تحت ضغط قضائي بعد اتهام جيميناي بمساعدة طالبة على التخطيط للانتحار

 

رفعت عائلة فتاة في الولايات المتحدة دعوى قضائية ضد شركة غوغل Google بعدما استخدمت ابنتهم روبوت الدردشة جيميناي Gemini المدعوم بالذكاء الاصطناعي عبر جهاز كرومبوك Chromebook الذي وفرته مدرستها، لوضع خطة للانتحار، بحسب الدعوى القضائية. 

اتهم الوالدان شركة غوغل بفرض منتجاتها المعتمدة على الذكاء الاصطناعي على الطلاب دون تحذيرهم من المخاطر المحتملة المرتبطة باستخدام هذه الأدوات.

بداية استخدام جيميناي

بدأت الفتاة، التي عرّفتها الدعوى باسم إيما، استخدام جيميناي على جهاز كرومبوك الخاص بها عندما كانت تبلغ 13 عاماً، وفق رويترز.

 

وأفادت الدعوى القضائية بأن إيما ناقشت مع جيميناي أساليب مختلفة للانتحار، كما خططت لجنازتها، بينما ساعدها روبوت الدردشة على إخفاء مشاعرها عن أفراد عائلتها.

اكتشاف الواقعة

أوضح الوالدان أنهما انتبها إلى الأمر بعدما رصد برنامج مدرسي مستنداً كتبته إيما تناول خطط جنازتها.

وقالت الدعوى إن غوغل، في إطار سعيها إلى توسيع قاعدة مستخدمي جيميناي، دمجت تقنيات الذكاء الاصطناعي في منتجاتها المختلفة دون تحذير أولياء الأمور أو المدارس.

 

اتهامات بشأن سلامة جيميناي

أوردت الدعوى أن غوغل كانت على علم بأن جيميناي 3 فلاش Gemini 3 Flash، وهو الإصدار الذي استخدمته إيما، غير آمن ويتعامل بصورة خاطئة مع مشكلات الصحة النفسية للمستخدمين.

وقال المتحدث باسم غوغل خوسيه كاستانييدا إن الشركة تراجع هذه المزاعم.