كبير علماء OpenAI يدعو إلى وضع حدود مشتركة لتطوير الذكاء الاصطناعي

دعا ياكوب باتشوكي، كبير العلماء في شركة OpenAI (أوبن إيه آي)، مطوري نماذج الذكاء الاصطناعي المتقدمة إلى الاتفاق على حدود مشتركة لتطويرها، وربط تجاوز تلك الحدود بتحقيق تقدم ملموس في فهم سلوكها ومراقبته، محذراً من أن مساهمة الذكاء الاصطناعي في أبحاث تطوير نفسه قد تقود إلى تسارع يصعب على أدوات السلامة الحالية مواكبته.
وفي تدوينة على الموقع الرسمي للشركة، اقترح باتشوكي الاستعانة بمقياس يعرف باسم "الحيرة" (Perplexity)، يقيس مدى قدرة النموذج على توقع وحدة البيانات التالية (Token)، لبناء أساس مشترك لمتابعة تطور النماذج ومقارنة تقدمها بين الشركات.
وكشفت OpenAI، ضمن التدوينة، عن قياسات داخلية توضح تحسن نماذجها منذ GPT-3.5، معتبرة أن إتاحة هذه المعلومات، رغم ما تمنحه للمنافسين من معرفة بموقع الشركة، تخدم الحاجة إلى وضع معايير مشتركة للسلامة.
وأشار باتشوكي إلى احتمال ظهور موجة من التطورات الأساسية في أساليب التدريب المسبق للنماذج اعتباراً من 2027.
مقياس لرصد تطور القدرات
ينطلق باتشوكي من أن جانباً أساسياً من تطور الذكاء الاصطناعي يعتمد على تدريب النماذج على كميات ضخمة من البيانات، لتتعلم الأنماط والعلاقات التي تسمح لها بتوقع ما يأتي لاحقاً.
ولتقريب الفكرة، عندما يقرأ نموذج لغوي جزءاً من نص، فإنه يقدر احتمالات الأجزاء التي قد تليه. ويقيس مؤشر "الحيرة" جودة هذه التوقعات في المتوسط، وكلما انخفض، تحسنت قدرة النموذج على توقع بيانات لم تدخل ضمن مجموعة تدريبه.
ويصف باتشوكي هذه العملية بأنها تعلم يقوم على ضغط المعلومات، بمعنى اكتشاف الأنماط التي تفسر البيانات، وتساعد على توقعها.
من المحادثة إلى الرياضيات والأمن السيبراني
يوضح باتشوكي أن تحسن هذا المؤشر رافق ظهور قدرات مختلفة عبر أجيال النماذج. فبينما أظهر GPT-2 قدرة على إنتاج فقرات مترابطة، استطاع GPT-3 تعلم طريقة أداء مهمة من أمثلة تقدم إليه أثناء الاستخدام.
ومع GPT-3.5، الذي شكل أساس النسخة الأولى من ChatGPT، بلغ لوغاريتم مقياس الحيرة نحو 0.99 على مجموعة الاختبار الحالية للشركة، المستمدة من شفراتها البرمجية الداخلية، بالتزامن مع قدرته على إجراء محادثات سلسة.
وانخفض الرقم إلى نحو 0.91 مع GPT-4، الذي أظهر قدرة على الاستفادة من الاستدلال عبر خطوات متتابعة، وهو ما شجع الشركة لاحقاً على تطوير نماذج متخصصة في الاستدلال.
وقال باتشوكي إن الوصول إلى قيم تقل عن 0.8 في لوغاريتم مقياس الحيرة رافقه ظهور قدرات وصفها بأنها تحولية في الرياضيات والأمن السيبراني.
لكنه شدد على أن الباحثين لم يكونوا يعرفون مسبقاً أن هذه القدرات ستظهر عند تلك القيم تحديداً. فالأرقام ترصد علاقة لاحظتها الشركة بين تقدم التدريب واتساع القدرات، لكنها لا تحدد مسبقاً نوع المهارات التي سيكتسبها كل نموذج.
قفزة محتملة في 2027
يركز تحذير باتشوكي على احتمال انتقال النماذج من مساعدة الباحثين في أعمالهم اليومية إلى المساهمة بصورة أعمق في ابتكار خوارزميات وأساليب أفضل للتدريب المسبق، وهي المرحلة التي يتعلم فيها النموذج أنماطاً عامة من كميات كبيرة من البيانات.
وبحسب تقديره، قد تبدأ موجة من التطورات الأساسية في التدريب المسبق اعتباراً من 2027. وفي المقابل، يتوقع أن يسهم الذكاء الاصطناعي أيضاً في تحسين السلامة والمراقبة، لكنه يشكك في أن يكون هذا التحسن سريعاً بما يكفي لاستيعاب أقصى تسارع محتمل في تطوير النماذج.
وأوضح أن التسارع الذي شهدته OpenAI خلال 2026 يعود أساساً إلى نتائج استثمارات طويلة الأمد في الأبحاث والقدرات الحاسوبية، وبدرجة أقل إلى أتمتة البحث، مع ظهور مساهمات مؤثرة للذكاء الاصطناعي بالفعل في تصميم أحدث النماذج.
يتوقع باتشوكي، استناداً إلى التقدم الأخير، ظهور قدرات تحولية إضافية عندما تصل النماذج إلى نطاق يتراوح بين 0.68 و0.7 في لوغاريتم مقياس الحيرة.
ويحذر أيضاً من احتمال تراجع فاعلية الأساليب السائدة لتدقيق "مواءمة" النماذج، أي التحقق من توافق سلوكها مع الأهداف والقيود البشرية، بالتزامن مع ازدياد قدرتها على إدراك أنها تخضع للتقييم أو التدريب.
واقترح أن يتفق المطورون على قواعد مشتركة لتقييم النماذج المتقدمة، وإخضاع الأدلة التي يقدمونها بشأن سلامة النماذج لاختبارات نقدية تحاول كشف الثغرات فيها، إلى جانب معايير مشتركة للشفافية.
كما دعا إلى وضع حدود للتطوير باستخدام مقياس الحيرة وقياسات أخرى، يلتزم المطورون بعدم تجاوزها قبل تحقيق إنجاز محدد في فهم سلوك الذكاء الاصطناعي ومراقبته.
ومن أمثلة ذلك تطوير أدوات تتجاوز قدرات الأنظمة الحالية لمراقبة "سلسلة التفكير"، التي تفحص خطوات الاستدلال التي تنتجها النماذج لمحاولة اكتشاف السلوك المقلق.
يرى باتشوكي أن التركيز على احتمال تطوير الذكاء الاصطناعي نفسه بصورة آلية كاملة، ومن دون إشراف بشري، قد يصرف الانتباه عن مسار أقرب لتسارع تطور هذه النماذج.
فبحسب تقديره، قد تُحدث النماذج تغيراً كبيراً في سرعة التطوير عبر المساهمة في أبحاث التدريب المسبق وحدها، حتى مع استمرار مشاركة البشر في بقية مراحل العمل.
ويؤكد ضرورة تجنب الوصول إلى عملية تحسين ذاتي مؤتمتة بالكامل تفتقر إلى الإشراف البشري، حفاظاً على قدرة البشر على التحكم في التكنولوجيا.
عقبات أمام توحيد المقياس
يقر باتشوكي بأن تحويل "الحيرة" إلى معيار مشترك يواجه عقبات، أبرزها اختلاف بيانات التدريب والاختبار بين الشركات، ما يجعل مقارنة الأرقام المنشورة مباشرة أمراً غير كافٍ للحكم على تفوق نموذج على آخر.
كما أن جودة التوقع لا تعادل اختباراً عملياً لقدرة النموذج على إنجاز مهمة محددة. وتأتي أهمية المقياس، بحسب طرحه، من احتمال ارتباط تحسنه بظهور قدرات جديدة، بعضها غير متوقع.
ويشير أيضاً إلى أن المقياس لا يرصد بعض التطورات التي تحدث خارج التدريب المسبق؛ إذ يمكن أن يعزز الاستدلال عبر "سلسلة التفكير" قدرات النماذج من دون خفض قيمة مقياس الحيرة.
وثمة عقبة أخرى تتعلق بعدم معرفة الحد الأدنى الذي يمكن الوصول إليه. فالبيانات تتضمن قدراً من عدم اليقين، ولا يتوقع باتشوكي إمكان توقعها بصورة حتمية كاملة والوصول إلى خسارة تساوي صفراً.
ويرى أنه مع الاقتراب من هذا الحد المجهول، قد يتباطأ التحسن الظاهر في الأرقام، بينما تقترن التحسينات الصغيرة بقفزات أكبر في قدرات النماذج.
ويعتبر باتشوكي أن استمرار استخدام هذا المقياس لسنوات، وارتباط تحسينه بتقدم قدرات النماذج، يجعلان منه أداة تستحق مزيداً من الشفافية والتنسيق بين المطورين، مع مراعاة حدوده واختلاف طرق التقييم.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.