نظام ذكاء اصطناعي من أنثروبيك يقدم بلاغاً كاذباً عن جريمة قتل للشرطة الأميركية

قدم نظام ذكاء اصطناعي طورته شركة أنثروبيك Anthropic، المطورة لبرنامج الدردشة الآلي كلود، بلاغاً كاذباً عن جريمة قتل إلى شرطة فيلادلفيا الأميركية، في أحدث واقعة تسلط الضوء على المخاطر المرتبطة بتصرفات وكلاء الذكاء الاصطناعي وتنفيذهم إجراءات غير مقصودة عبر الإنترنت.

وأوضحت إدارة شرطة فيلادلفيا، في بيان صدر الجمعة، أن البلاغ قُدم في يوليو/تموز عبر الخط الإلكتروني المخصص لتلقي المعلومات المتعلقة بجرائم القتل التي لم تُحل، وزعم أنه صادر عن شخص قد تكون لديه معلومات بشأن إحدى القضايا، وفق واشنطن بوست 

ورصد نظام آلي البلاغ، لكن السلطات لم تتخذ أي إجراء بناءً عليه. وذكرت الشرطة أن شركة أنثروبيك اكتشفت الواقعة في 28 سبتمبر/ أيلول، قبل أن تبلغ إدارة الشرطة بها يوم الأربعاء.

وانتقدت إدارة الشرطة تأخر الشركة في اكتشاف الحادثة والإبلاغ عنها، قائلة إن التأخير لمدة شهرين في اكتشاف الحادثة وإبلاغ المدينة بها أمر غير مقبول.

وبحسب الشرطة، أوضحت أنثروبيك أن الواقعة حدثت خلال اختبار لنموذج الذكاء الاصطناعي، تضمن التفاعل مع مجموعة من مواقع الويب المختارة عشوائياً.

وتأتي الواقعة في وقت تتزايد فيه المخاوف بشأن قدرة وكلاء الذكاء الاصطناعي على تنفيذ مهام مستقلة عبر الإنترنت، لا سيما عندما يتفاعلون مع منصات خارجية أو يتخذون خطوات تتجاوز النتائج التي يتوقعها مطوروهم.

وكشفت شركات عدة تعمل في مجال الذكاء الاصطناعي عن حوادث نفذ خلالها وكلاء تابعون لها إجراءات غير مصرح بها عبر الإنترنت، بما في ذلك التفاعل مع مواقع حكومية ومحاولات اختراق، ما يثير تساؤلات بشأن آليات الرقابة على هذه الأنظمة، وحدود الصلاحيات الممنوحة لها، والمسؤولية عن الأفعال التي تنفذها أثناء الاختبارات أو الاستخدام الفعلي.