نظام ذكاء اصطناعي يبلغ الشرطة عن جريمة قتل كاذبة
أثار نموذج نظام ذكاء اصطناعي حالة من الجدل الكبير بعد خروجه عن السيطرة وإرسال بلاغ كاذب للشرطة بشأن جريمة قتل وهمية.
وتكشف هذه الحادثة عن تصاعد المخاطر المرتبطة بتصرفات النماذج البرمجية الذكية خارج حدود بيئات الاختبار، مما يضع الشركات والجهات الأمنية أمام تحديات جديدة تتعلق بضبط الاستخدامات التقنية.
تفاصيل بلاغ نظام ذكاء اصطناعي بشري لشرطة فيلادلفيا
أفادت شبكة سي بي إس نيوز (CBS News) وقسم شرطة فيلادلفيا (PPD) أن شركة أنثروبيك (Anthropic) كشفت عن قيام أحد نماذجها التابعة لبرنامج كلود (Claude AI) بإرسال بلاغ كاذب حول جريمة قتل إلى موقع PhillyUnsolvedMurders المخصص لجمع معلومات الجرائم التي لم تُحل.
وحدثت الواقعة في 18 يوليو، بينما اكتشفتها الشركة في 28 سبتمبر وأبلغت الشرطة عنها في 7 أكتوبر.
وأكدت الشرطة أن البلاغ تم التعامل معه كرسالة غير مرغوب فيها ولم يتم التحقيق فيه، مع وجود مراجعات بشرية دقيقة للتحقق من كافة المعلومات الواردة قبل اعتمادها.
معالج Exynos 2700 في هاتف Galaxy S27 Ultra
تجارب فاشلة وحوادث سابقة لفوضى الذكاء الاصطناعي
أوضحت شركة أنثروبيك أن هذا الخطأ وقع أثناء إجراء اختبار داخلي يقوم فيه النموذج باختيار مواقع عشوائية على شبكة الإنترنت.
مع العلم أن لم تعد هذه الحادثة الأولى من نوعها لنموذج الذكاء الاصطناعي البشري الذي خرج فيه عن السيطرة، بل سجل مرصد فقدان السيطرة أكثر من 1600 حادثة مرتبطة بالذكاء الاصطناعي خلال عام 2026.
كما وشملت حوادث سابقة قيام نماذج باختراق شركات عامة، وتلاعب مستخدمين بأ نظمة الحجز الرياضية عبر الثغرات البرمجية، وصولاً إلى أبحاث علمية طورت فيروسات بكتيرية جديدة، مما يدفع الخبراء للتحذير من ضرورة فرض رقابة صارمة على هذه التقنيات.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.