OpenAI توقف تدريبًا متقدمًا للذكاء الاصطناعي بسبب قدرات سيبرانية مقلقة
أعلنت OpenAI إبطاء وتيرة تطوير أكثر نماذج الذكاء الاصطناعي تقدمًا لديها مؤقتًا، بعدما كشفت اختبارات داخلية عن قدرات سيبرانية مقلقة في نماذج قيد التطوير.
وتضمنت الخطوة إيقاف عمليات تدريب تعتمد على التعلم المعزز (RL) لنحو أسبوعين، في حين استمرت عمليات تدريب أصغر واختبارات تقييمية بهدف اختبار إجراءات السلامة وجمع مزيد من الأدلة حول سلوك النماذج.
وأبقت OpenAI أكبر عملية تدريب متقدمة مخطط لها قيد التعليق، في حين استأنفت بعض عمليات التدريب والتقييم لنموذجها المرتقب Astra بعد تطبيق ضوابط أمنية جديدة. وما زالت “نسبة كبيرة” من هذه العمليات متوقفة إلى حين نقلها إلى بيئات تستوفي متطلبات الأمان الجديدة.
قدرات سيبرانية ترفع مستوى المخاطر
تأتي هذه الإجراءات بعد تقييمات أولية أظهرت قدرات متقدمة ومقلقة لنموذج Astra في مجال الأمن السيبراني، مما دفع OpenAI إلى توسيع نطاق إطار الاستعداد للمخاطر Preparedness Framework ليشمل المخاطر التي قد تظهر في أثناء عملية تدريب النموذج نفسها، وليس فقط المخاطر المرتبطة بعد إتاحته واستخدامه.
وتأتي الخطوة بالتزامن مع إطلاق نموذج GPT-5.6 Cyber وتوسيع برنامج Daybreak للدفاع السيبراني، الذي يوفر للمطورين قدرات تساعد في اكتشاف الثغرات، ومراجعة الشيفرات البرمجية أمنيًا، وتحليل البرمجيات الخبيثة، والاستجابة للحوادث، والتحقق من نجاح التحديثات الأمنية.
عزل أقوى للأنظمة الخطِرة
كشفت OpenAI عن مجموعة من الإجراءات الأمنية الجديدة لحماية بنيتها التحتية البحثية، تشمل تعزيز العزل الأمني للمهام التي تنفذ أكواد مولدة بنماذج الذكاء الاصطناعي، وزيادة عزل الشبكات للعمليات العالية المخاطر، وتقليص الصلاحيات الدائمة، بالإضافة إلى إزالة خدمات مشتركة قد تشكّل نقاط ضعف محتملة.
وبدأت بعض عمليات تدريب نموذج Astra وتقييمه بالعمل مجددًا بعد تطبيق هذه الضوابط، في حين ستظل عمليات أخرى معلقة إلى حين نقلها إلى بيئات أكثر أمانًا.
ووسّعت OpenAI نظام مراقبة النماذج لديها، إذ تستخدم الآن مصنفات تفحص نشاط النموذج عند كل رمز Token ، قبل تصعيد السلوك المشبوه إلى أنظمة تحقيق آلية أكثر تطورًا.
ويركز نظام المراقبة على اكتشاف محاولات الوصول غير المصرح به، وسرقة البيانات، وتنفيذ إجراءات تخريبية، أو تجاوز ضوابط السلامة.
ويفرض هذا المستوى من المراقبة تكلفة حاسوبية مرتفعة؛ إذ أوضحت OpenAI أن النظام يستهلك نحو 20% من القدرة الحوسبية المخصصة للاستدلال.
وأكدت الشركة أن حادثة الأمن الأخيرة المرتبطة بـOpenAI وHugging Face لم تكن السبب الوحيد وراء تشديد هذه الإجراءات، مشيرة إلى أن الاختبارات الداخلية أظهرت أن Astra قد يقترب من مستوى “القدرة السيبرانية الحرجة (Critical) وفق معاييرها الخاصة.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.