التهديد الخفي.. كيف يمكن لتسميم البيانات أن يغيّر قرارات الذكاء الاصطناعي؟
بينما تتسابق الشركات والحكومات لاستثمار مليارات الدولارات في الذكاء الاصطناعي، يتركز الحديث غالباً حول قدرات النماذج الجديدة وسرعة تطورها. لكن خلف هذا التقدم المتسارع يبرز تهديد أقل شهرة وأكثر خطورة، يُعرف باسم "تسميم الذكاء الاصطناعي" أو AI Poisoning.
على عكس الهجمات الإلكترونية التقليدية التي تستهدف الخوادم أو الشبكات، يهاجم هذا النوع من الهجمات المصدر الأهم للذكاء الاصطناعي: البيانات. فبدلاً من اختراق النظام مباشرة، يقوم المهاجمون بإدخال معلومات مضللة أو معدلة إلى البيانات التي يتعلم منها النموذج، ما يدفعه إلى اتخاذ قرارات خاطئة مع استمرار ظهوره وكأنه يعمل بشكل طبيعي.
يمكن تشبيه الأمر بطالب يدرس من كتاب تم التلاعب بمحتواه سراً. سيحفظ المعلومات الخاطئة ويستخدمها لاحقاً دون أن يدرك أنها غير صحيحة. الأمر نفسه يحدث مع أنظمة الذكاء الاصطناعي عندما تتعلم من بيانات ملوثة.
وتتعدد أساليب التسميم. فقد يتم التلاعب ببيانات التدريب نفسها، أو تغيير التصنيفات المرتبطة بالصور والملفات، أو زرع "أبواب خلفية" تجعل النموذج يتصرف بشكل طبيعي في معظم الحالات لكنه يفشل عند ظهور إشارة أو نمط محدد. كما يمكن استغلال أنظمة التغذية الراجعة عبر حملات منظمة تدفع النموذج إلى تعزيز معلومات مضللة بمرور الوقت.
وتزداد خطورة هذه الهجمات مع انتشار الأنظمة المعتمدة على الذكاء الاصطناعي في قطاعات حساسة. ففي الرعاية الصحية قد يؤدي نموذج ملوث إلى تشخيصات خاطئة أو تأخير اكتشاف الأمراض. وفي القطاع المالي قد تتأثر أنظمة كشف الاحتيال أو تقييم الجدارة الائتمانية. أما في المركبات الذاتية القيادة، فقد يؤدي سوء تفسير إشارات المرور أو البيئة المحيطة إلى حوادث خطيرة.
كما أن المؤسسات العسكرية والأمنية أصبحت تعتمد بشكل متزايد على الذكاء الاصطناعي في تحليل المعلومات واتخاذ القرارات، ما يجعل أي تلاعب بالبيانات قضية تتجاوز الأمن السيبراني إلى الأمن القومي.
ويرى خبراء الأمن أن المشكلة تزداد تعقيداً بسبب اعتماد العديد من الشركات على مصادر بيانات عامة ومفتوحة، إضافة إلى الحاجة إلى كميات هائلة من البيانات التي يصعب التحقق منها يدوياً. وكلما كبرت النماذج، أصبحت مراقبة جودة البيانات أكثر صعوبة.
ولمواجهة هذه المخاطر، تنصح المؤسسات المتخصصة بتدقيق مصادر البيانات، ومراقبة أداء النماذج بشكل مستمر، وإجراء اختبارات أمنية دورية، وعدم الاعتماد الكامل على مخرجات الذكاء الاصطناعي في القرارات الحساسة دون مراجعة بشرية.
ومع دخول العالم عصر الوكلاء الأذكياء القادرين على تنفيذ المهام بشكل مستقل، قد لا يقتصر تأثير البيانات المسمومة على تقديم إجابات خاطئة، بل قد يمتد إلى تنفيذ إجراءات وقرارات ضارة تلقائياً. ولهذا أصبح الحفاظ على سلامة البيانات أحد أهم التحديات التي ستحدد مدى موثوقية الذكاء الاصطناعي خلال السنوات المقبلة.
اقرأ للكاتب أيضاً: سبيس إكس.. ماذا بعد؟
* المقالات المنشورة عبر CNBC عربية تعبر عن رأي صاحبها
تابعونا على منصات التواصل الاجتماعي