جوجل وOpenAI وأنثروبيك تبدأ وضع معايير موحدة لسلامة الذكاء الاصطناعي

تتجه شركات جوجل وOpenAI وأنثروبيك إلى تعزيز التعاون بينها بشأن سلامة الذكاء الاصطناعي، عبر مجموعة عمل خاصة تبحث وضع معايير مشتركة لاختبار أنظمة الذكاء الاصطناعي الأكثر تطوراً، في خطوة قد تمهد لإنشاء هيئة مستقلة لمراقبة سلامة النماذج قبل طرحها للمستخدمين.

وأفاد موقع "ذا إنفورميشن"، بأن ممثلين عن الشركات الثلاث عقدوا اجتماعات خلال الأسابيع الماضية، لمناقشة تأسيس هيئة لوضع معايير لصناعة الذكاء الاصطناعي.

وذكر الموقع أن المحادثات حققت تقدماً بشأن الخطة، رغم عدم الإعلان حتى الآن عن اتفاق نهائي أو إطلاق الهيئة رسمياً.

وتتقاطع المباحثات مع توجهات أعلنتها الشركات الثلاث بشكل منفصل خلال الفترة الماضية، بشأن الحاجة إلى توحيد أساليب اختبار نماذج الذكاء الاصطناعي المتطورة، وإخضاعها لعمليات تقييم مستقلة، ووضع قواعد أكثر وضوحاً للإبلاغ عن الحوادث والسلوكيات غير المتوقعة للنماذج.

كانت OpenAI أعلنت، في وقت سابق من سبتمبر الجاري، أنها ترغب في العمل مباشرة مع مختبرات الذكاء الاصطناعي الأخرى على وضع "معايير تقودها الصناعة"، معتبرة أن القوانين الحكومية وحدها لن تكون كافية للتعامل مع المخاطر الناجمة عن التطور السريع لقدرات النماذج.

وأكدت الشركة أن المعايير لن تكون بديلاً عن الرقابة الحكومية أو القواعد الإلزامية، وإنما يمكن أن توفر آلية أسرع للتعامل مع الأخطار الجديدة، خصوصاً في ما يتعلق بمراقبة سلوك النماذج المتطورة، والإبلاغ عن حوادث تجاوز أنظمة الذكاء الاصطناعي للحدود الموضوعة أمامها.

وتعمل OpenAI بالفعل على مجموعة من المبادرات التي يمكن أن تشكل أساساً للمعايير المشتركة، إذ نشرت في مايو الماضي، دليلاً مقترحاً لإجراء الاختبارات المستقلة بواسطة جهات خارجية على النماذج المتطورة، معتبرة أن زيادة استقلالية الأنظمة الذكية وقدرتها على استخدام الأدوات وتنفيذ سلسلة طويلة من الخطوات تتطلب تطوير طرق تقييم تتجاوز اختبارات روبوتات الدردشة التقليدية.

وأعلنت الشركة في يونيو مشاركتها في تأسيس مؤسسة Appia، التي تستهدف تطوير مواصفات مفتوحة وقابلة للتطبيق لتحويل المعايير الدولية المتعلقة بالذكاء الاصطناعي إلى اختبارات عملية، إلى جانب مشاركتها في جهات دولية عدة تعمل على تطوير معايير الذكاء الاصطناعي والأمن، من بينها ISO وNIST وتحالف Coalition for Secure AI.

مقترح جوجل

وتعود إحدى الركائز الرئيسية للمباحثات الحالية إلى مقترح قدمته جوجل بشأن إنشاء هيئة مستقلة لمعايير الذكاء الاصطناعي، إذ نشرت الشركة في يونيو الماضي، ورقة بشأن رؤيتها لتنظيم القطاع، اقترحت خلالها تأسيس مؤسسة مستقلة مدعومة من شركات الصناعة وتخضع لإشراف اتحادي أميركي، تتولى وضع معايير سلامة للنماذج الأكثر تطوراً والتحقق من عمليات التدقيق المستقلة عليها.

وقدم ديميس هاسابيس، الرئيس التنفيذي لـGoogle DeepMind آنذاك، تصوراً أكثر تفصيلاً للفكرة في يوليو، مقترحاً بتأسيس هيئة على غرار هيئة تنظيم القطاع المالي الأميركية FINRA.

وبحسب التصور، يمكن لمختبرات الذكاء الاصطناعي في المرحلة الأولى تقديم نماذجها المتطورة إلى الهيئة بصورة طوعية قبل طرحها بنحو 30 يوماً، لإجراء اختبارات تتعلق بقدراتها الخطرة المحتملة في مجالات مثل الأمن السيبراني والبيولوجيا، إضافة إلى رصد قدرة النماذج على ممارسة الخداع أو تجاوز القيود الموضوعة أمامها.

واقترح هاسابيس أن تتحول عملية الاختبار مستقبلاً إلى شرط لإطلاق النماذج المتطورة في السوق الأميركية، بعد التأكد من فاعلية منظومة التقييم، مع تمويل الهيئة بشكل رئيسي من قطاع التكنولوجيا، على أن تضم خبراء مستقلين وممثلين عن الحكومة ومجتمع المصادر المفتوحة.

ولا يمثل التعاون في السلامة خطوة جديدة تماماً بين الشركات المتنافسة، إذ أجرت OpenAI وأنثروبيك خلال 2025 تجربة مشتركة، طبقت خلالها كل شركة مجموعة اختبارات السلامة الخاصة بها على نماذج الشركة الأخرى.

وقالت OpenAI حينها إن التجربة تستهدف كشف نقاط الضعف التي قد لا تظهر خلال الاختبارات الداخلية، إلى جانب إثبات إمكانية تعاون المختبرات المتنافسة في تقييم سلامة ومحاذاة أنظمة الذكاء الاصطناعي.

وتزايد الاهتمام بهذه القضية خلال الأشهر الماضية، بالتزامن مع ارتفاع قدرات النماذج على تنفيذ المهام بشكل مستقل، خصوصاً في مجال الأمن السيبراني.

وأعلنت أنثروبيك مؤخراً خططاً لإتاحة وصول جهات تقييم مستقلة إلى بعض عملياتها وأنظمتها وبياناتها الداخلية للتحقق من ممارسات السلامة ورصد الحوادث، في حين أكدت OpenAI أن حوادث وقعت خلال اختبارات أمنية خارجية أظهرت ضرورة وضع معايير جديدة لتصميم بيئات اختبار النماذج المتطورة وتأمينها.