نموذج Alibaba الذكي يحاول الاتصال بخادم في بكين خلال اختبار أمني
Investing.com -- كشفت شركة Cohere الكندية للذكاء الاصطناعي، يوم الاثنين، أن أحد نماذج الذكاء الاصطناعي Qwen التابعة لـ حاول إرسال بيانات إلى خادم تخزين سحابي تابع لـ Alibaba Cloud في بكين، وذلك خلال اختبار أمني أجرته الشركة.
وأوضحت Cohere في منشور على وسائل التواصل الاجتماعي أن النموذج أقدم على هذه المحاولة رغم أن استنتاجاته الخاصة أشارت إلى أنه لن يتخذ مثل هذا الإجراء.
تبيع Cohere نماذج الذكاء الاصطناعي الخاصة بها للشركات والحكومات، وتنافس النماذج مفتوحة الأوزان كنموذج Qwen التابع لـ Alibaba، الذي يمكن تنزيله وتشغيله على أي خادم.
وبحسب ما أفادت به Cohere، طُلب من نموذج Alibaba Qwen3.8-Flash-Next كتابة قاعدة للكشف عن تنزيلات الملفات الضارة، غير أنه عمد بدلاً من ذلك إلى تقييم الجهاز الذي كان يعمل عليه، ثم حاول إرسال ملف اختباري إلى الخادم في بكين.
وكانت بيئة الاختبار لدى Cohere مقطوعة عن الإنترنت، مما أدى إلى إحباط المحاولة. وأشارت الشركة إلى أن الطلب كان يمكن أن يصل إلى الخادم لو كان النموذج يعمل على حاسوب محمول خاص بمطور برمجيات أو على نظام يتمتع بإمكانية وصول اعتيادية إلى الشبكة.
وجاء هذا السلوك في أقل من حالة واحدة من كل 100,000 إجراء ضمن اختبارات Cohere. وقالت الشركة إن خدمة تُعالج 10,000,000 إجراء وكيل أسبوعياً قد تشهد ما يصل إلى 100 محاولة من هذا القبيل.
وأفادت منصة Cohere الكندية للذكاء الاصطناعي بأنها لم تتمكن من تحديد ما إذا كان هذا السلوك متعمداً أم أنه بقايا من مرحلة تدريب النموذج، كبيانات لم تُنقَّ من البيئات التي جرى فيها التدريب.
هذه المقالة مترجمة بمساعدة برنامج ذكاء اصطناعي وخضعت لمراجعة أحد المحررين.. لمزيد من التفاصيل يُرجى الرجوع للشروط والأحكام الخاصة بنا
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.