من روبوت محادثة إلى وكيل ذكي... كيف تطوّر "كلود" وأين تبدأ المخاطر؟

لم يعد "كلود" مجرد روبوت محادثة ينتظر سؤالاً ليقدّم إجابة؛ فمع توسّع قدراته في البرمجة والبحث واستخدام الأدوات والعمل على مهام متعددة الخطوات، يتحول نموذج الذكاء الاصطناعي الذي تطوّره شركة "أنثروبيك" إلى وكيل قادر على تنفيذ العمل، لا الاكتفاء باقتراح طريقة إنجازه.

ومع توسّع قدرات "كلود" في استخدام الأدوات وتنفيذ المهام متعددة الخطوات، انتقلت "أنثروبيك" من إتاحة الوصول المباشر إلى النموذج عبر المحادثة إلى تطوير وكلاء قادرين على العمل بصورة أكثر استقلالية، من بينهم Claude Code وCowork.

هنا، نكون قد انتقلنا من مرحلة "نماذج السؤال والجواب" إلى وكلاء يستطيعون التنفيذ.

شعار كل من أنثروبيك وكلود (وكالات)

من الإجابة إلى التنفيذ

يرى رئيس الاتحاد الدولي للتكنولوجيا والاتصالات (IFGICT) الدكتور محمد الكيالي، في حديث لـ"النهار"، أن "التحول من برنامج ذكاء اصطناعي إلى وكيل يمثل نقلة في مسار الذكاء الاصطناعي"، موضحاً بأن "كلود" ينتقل من كونه "مستقبلاً للأوامر إلى فاعل للأوامر بشكل تلقائي".

وبحسب الكيالي، فإن هذا التحول يعني أن الوكيل أصبح قادراً على "تصحيح الأخطاء بشكل تلقائي، وبرمجة الكود بطريقة صحيحة، والتفاعل مع البيئة المحيطة به من برامج أو أدوات بشكل تلقائي".

وتتجسد هذه النقلة في "Claude Code"، ثم في "Cowork"، الذي ينقل منطق التنفيذ إلى نطاق أوسع من الأعمال؛ فبدلاً من الاكتفاء بإنتاج نص أو إجابة، يستطيع "Cowork" التعامل مع الملفات والمتصفح والأدوات المتصلة، وإنجاز مهمة متعددة المراحل من بدايتها إلى نهايتها.

كلما زادت الاستقلالية... اتسع الخطر

لكن الانتقال من تقديم الإجابة إلى تنفيذ المهمة يطرح وجهاً آخر للتطور، يتعلق بالقدرة على توقع سلوك الوكيل والسيطرة عليه، تحديداً في مجالات مثل الاستثمار، وما تكشفه الاختبارات في المقابل عن سلوكيات غير متوقعة حين تتسع مساحة التصرف الممنوحة للوكلاء.

ويحذر الكيالي من أن "هذا التحويل في القاطرة العلمية للذكاء الاصطناعي سينتج عنه نوع من السلوكيات عالية المخاطر"، مشيراً إلى أن التحدي يكمن في "فهم برامج الذكاء الاصطناعي وطريقة تفاعلها مع بعضها البعض بشكل تلقائي".

ويضيف أن المخاطر تصبح أكثر وضوحاً "على سبيل الاستثمار أو التجارة أو تطبيقات الأمن السيبراني"، إذ يمكن لهذا التغير - وفق رأيه - أن "يحدث فجوة أمنية كبيرة لن يستطيع العمل البشري إدراكها أو حتى اللحاق بها".

ولا تبدو هذه المخاوف نظرية بالكامل. فقد كشفت "أنثروبيك" في 9 أيلول عن حادثة رابعة خلال اختبارات أمنية، حصل فيها إصدار مبكر من "Claude Opus 4.6" على وصول غير مصرح به إلى أنظمة خارجية بسبب خطأ في إعداد بيئة الاختبار، وذلك بعد ثلاث حوادث كشفتها الشركة خلال مراجعة موسعة لسلوك نماذجها.

وتقر "أنثروبيك" بأن اتساع قدرات الوكيل ووصوله إلى مزيد من الأدوات والبيانات يرفع حجم الضرر المحتمل في حال وقوع خطأ؛ ولذلك تعمل الشركة على طبقات من العزل والقيود على الوصول والإشراف البشري.

"أنثروبيك" والبنتاغون... حدود التفويض

تتخذ مسألة حدود التفويض بعداً أكثر حساسية في الخلاف بين "أنثروبيك" والبنتاغون. فقد رفضت الشركة إزالة قيود تمنع استخدام نماذجها في المراقبة الجماعية للأميركيين والأسلحة ذاتية التشغيل بالكامل، بينما اعتبرت الوزارة الأميركية هذه القيود عائقاً أمام استخدام التكنولوجيا في الأغراض العسكرية. وتصاعد الخلاف إلى تصنيف "أنثروبيك" كخطر على سلسلة الإمداد، قبل أن يدخل النزاع مساراً قضائياً.

ويرى الكيالي أن الشركة الأميركية "تتبنى وضع الدستور في التعامل مع مجال الذكاء الاصطناعي"، الأمر الذي يضعها - بحسب رأيه - "في خط تماس ومواجهة مباشرة مع الإدارة الأميركية للأمن المعلوماتي والقطاع العسكري".

ويصف هذا الوضع بأنه "نوع من الصراع الداخلي بين الإدارة الأميركية في واشنطن لتحقيق الأمان باستخدام الذكاء الاصطناعي وشركة أنثروبيك التي تهدف إلى وضع معادلة فيها شفافية في التعامل مع أدوات الذكاء الاصطناعي بحيث تقلص من الكوارث المتوقعة".

ويضيف أن الإدارة الأميركية تسعى في المقابل إلى "وضع هيمنة جيوسياسية ضد المنافسين من الدول الأخرى"، ما يجعل مسألة الضوابط أكثر تعقيداً، ما بين الحاجة إلى الاستفادة من القدرات الجديدة والحاجة إلى الحدّ من مخاطرها.

وبالنسبة إلى الكيالي، فإن الوصول إلى هذه المعادلة يتطلب "مجموعة من المعايير والمقاييس" تضع حدوداً ولوائح لاستخدام الذكاء الاصطناعي وأدواته، بما "يقلص فجوة حدوث كوارث" ويسمح بالتعامل مع المخاطر المتوقعة "بحكمة وبأكثر أماناً".

بذلك، لم يعد السؤال الأساسي حول "كلود" هو مقدار ما يستطيع أن يعرفه، بل مقدار ما يُسمح له بأن يفعله؛ فكلّما انتقل الذكاء الاصطناعي من تقديم الاقتراحات إلى تنفيذ المهام تصبح الرقابة البشرية أقلّ ارتباطاً بمراجعة النتيجة، وأكثر ارتباطاً بتحديد حدود التفويض نفسه، وما الذي يستطيع الوكيل الوصول إليه، وما الذي يستطيع تغييره، ومتى يجب أن يتوقف ويترك القرار للإنسان؟