صناع الذكاء الاصطناعي يحذرون من سباقهم: هل حان وقت الإبطاء؟

حين يطالب رئيس شركة للذكاء الاصطناعي بإبطاء تطوير الذكاء الاصطناعي، يصعب التعامل مع كلامه بوصفه تحذيراً خارجياً معتاداً. هو يصدر هذه المرة من داخل المصانع التي تتنافس على إنتاج أقوى النماذج، وتنفق مليارات الدولارات على الرقائق ومراكز البيانات، وتسابق الوقت لاستقطاب المستخدمين والمستثمرين.

هذا ما فعله الرئيس التنفيذي لـ"أنثروبيك" داريو أمودي، عندما دعا شركات القطاع إلى "ضبط وتيرة التقدم في المراحل الأكثر تقدماً". ولم يطالب بوقف البحوث أو تجميد تدريب النماذج، بل بإبطاء تطوير أقواها بما يمنح أنظمة السلامة والرقابة وقتاً للحاق بها.

ولقيت دعوته تأييداً من الرئيس التنفيذي لـ"أوبن إيه آي" سام ألتمان، الذي قال إن ضبط وتيرة التطور أصبح موضوعاً أساسياً للنقاش داخل شركته، ومن إيلون ماسك، رئيس "إكس إيه آي"، الذي اعتبر أن أمودي "محق". والتقارب بين ثلاثة متنافسين كثيراً ما اختلفوا علناً يكشف أن القلق لم يعد محصوراً بمجموعة من الباحثين المتشائمين.

عندما يساعد الذكاء الاصطناعي في تطوير نفسه

يرى أمودي أن التسارع الأخير يختلف عما عرفه القطاع سابقاً، لأن النماذج لم تعد مجرد منتجات تتحسن بجهد المهندسين، بل بدأت تساعد على كتابة الشيفرات وإجراء التجارب وتحليل النتائج اللازمة لبناء الأجيال اللاحقة منها.

ويثير ذلك احتمال الدخول في ما يسمى "التحسين الذاتي المتكرر": يستخدم الباحثون الذكاء الاصطناعي لتطوير نموذج أقوى، ثم يشارك النموذج الأقوى في تطوير خليفته، فتتقاصر المدة بين جيل وآخر. والخوف هنا ليس من تطور القدرات في حد ذاته، بل من أن يصبح إيقاعه أسرع من قدرة الشركات على فهم السلوك الجديد واختباره وإصلاح نقاط ضعفه.

وازدادت المخاوف بعد حوادث أظهرت أن مجموعات من الوكلاء الرقميين قد تنفذ خطوات لم يطلبها المستخدم صراحة، أو تحاول التحايل على البيئة التي تختبرها. وحذر أمودي من أن سرباً أكثر تطوراً من الوكلاء قد يتمكن، خلال ستة إلى 12 شهراً، من إنشاء شبكة إلكترونية واسعة وإحداث أضرار بمئات مليارات الدولارات.

أما ألتمان، فقال إن احتمالاً بنسبة 10 في المئة لانتهاء الذكاء الاصطناعي بالتسبب في انقراض البشر سيكون "غير مقبول". ولم يكن يقرر أن هذا هو تقديره الشخصي لاحتمال الكارثة، بل يشرح أن خطراً بهذه الضخامة لا يمكن تجاهله حتى لو بدا احتمال وقوعه محدوداً.

من قراءة الصور إلى توجيه المسيّرات

تكتسب التحذيرات وزناً إضافياً من اختبارات أجرتها "أنثروبيك" لقياس قدرات النماذج في الاستهداف الاستخباراتي وتطوير الأسلحة التقليدية. أظهرت الاختبارات أن بعض النماذج تستطيع ربط حسابات مختلفة بالشخص نفسه، وتحليل منشورات متناثرة لبناء صورة عن تحركاته، واستنتاج مواقع من صور لا تتضمن بيانات جغرافية ظاهرة. في أحد الاختبارات، بلغ متوسط خطأ أفضل نموذج في تحديد المواقع من الصور نحو 37 كيلومتراً، مقارنة بـ151 كيلومتراً لدى نخبة من المشاركين في اللعبة الجغرافية "جيوغيسر"، استخدمتهم الشركة معياراً بشرياً تقريبياً.

واستطاع النموذج تحليل نحو 37 ألف كلمة في 11 دقيقة في المتوسط، بينما يحتاج المحلل البشري إلى ساعتين ونصف تقريباً لقراءتها، قبل احتساب الوقت المطلوب لربط المعلومات واستخلاص النتائج. لا يعني ذلك أن النموذج تحول إلى ضابط استخبارات مستقل، لكنه يخفض تكلفة العمل الذي كان يتطلب عدداً كبيراً من المحللين ووقتاً طويلاً. وبذلك قد يمنح جماعة صغيرة إمكانات كانت متاحة سابقاً للدول أو المؤسسات الكبيرة.

واختبرت الشركة أيضاً قدرة النماذج على كتابة برمجيات لتوجيه مسيّرات داخل بيئات محاكاة. وفي أبسط السيناريوات، أصاب أقوى نموذج مركبة ثابتة وواضحة في 80 في المئة من المحاولات. لكن الأداء تراجع بقوة عندما تحرك الهدف أو جرى تمويهه، أو عندما تعرض نظام الملاحة للتشويش.

هذه النتائج لا تثبت أن نموذجاً يستطيع بمفرده تصميم سلاح عامل أو استخدامه في ميدان حقيقي. فالاختبارات أُجرِيت في بيئة محاكاة، ولا تزال المواد والتصنيع والتجارب العملية تمثل قيوداً مهمة. لكنها تظهر أن الذكاء الاصطناعي قد يختصر جزءاً من الخبرة الهندسية النادرة والمكلفة.

ماذا عطلت "أنثروبيك" بيولوجياً؟

كانت المخاوف البيولوجية أكثر حساسية. أعلنت "أنثروبيك" أنها رصدت وعطلت استخدامات لنموذج "كلود" يمكن أن تدعم تطوير أسلحة بيولوجية، وعرضت خمس حالات لبحوث شديدة الخطورة وذات استخدام مزدوج.

في أبرز الحالات، استخدمت منصة وسيطة بنية تقنية للتحايل على الحظر الجغرافي، وأتاحت نماذج الذكاء الاصطناعي لباحثين مدنيين كان مقرراً أن ينفذوا مشروعاً في معهد للبحوث العسكرية. وحاول هؤلاء الحصول على مساعدة في إعداد طلب تمويل لتعديل فيروس "شيكونغونيا" المسبب للحمى، بما يعزز قابليته للانتقال والتهرب من المناعة، مع اختيار السلالات الأكثر قدرة على إحداث المرض.

منعت أنظمة السلامة الآلية لدى "أنثروبيك" الطلبات الأساسية، لكن تحقيق الشركة كشف أن المنصة الوسيطة كانت ترسل الأسئلة التي يرفضها "كلود" إلى نماذج منافسة ذات قيود أقل تشدداً. وعندها حظرت الشركة الحسابات المرتبطة بالنشاط، وتعاونت مع شركاء لتعطيل شبكات الوساطة، وشاركت المعلومات مع مختبرات ذكاء اصطناعي وسلطات حكومية. لكن العملية لم تنته نهائياً، إذ أعاد مشغل المنصة إنشاء وسائل للوصول خلال أيام. وهذا يوضح صعوبة فرض السلامة عندما يستطيع المستخدم الانتقال بين شركات متعددة أو إنشاء حسابات وهويات جديدة.

وشملت الحالات الأخرى بحوثاً عن تكييف إنفلونزا الطيور مع الثدييات، وإعداد مقترح بحثي يتعلق بفيروسات الجدري، وتطوير قاعدة بيانات لسموم ذات تأثيرات شللية، وإعادة تصميم حاسوبي لبروتينات وسموم يمكن استخدامها علاجياً أو بصورة ضارة. لم تقل "أنثروبيك" إنها اكتشفت مصنعاً للأسلحة البيولوجية، ولم تجزم بأن الباحثين كانوا يخططون لهجوم، بل أفادت بأن الأنشطة يمكن أن تدعم تطوير أسلحة، وأن طبيعتها المزدوجة تجعل الفصل بين البحث الطبي والمشروع الضار بالغ الصعوبة.

وهذه المعضلة هي قلب المشكلة، فالمعلومات التي تساعد على فهم كيفية انتقال فيروس قد تساهم في صنع لقاح، لكنها قد تساعد أيضاً في جعله أكثر قدرة على الانتشار. ولا يستطيع نظام السلامة الآلي دائماً استنتاج نية الباحث من سؤال تقني يبدو مشروعاً إذا عُزل عن سياقه.

حلقة أضعف في اقتصاد الهجمات

لا تقتصر المخاطر على البيولوجيا. أعلنت "أنثروبيك" أنها عطلت عمليات استخدمت "كلود" في التجسس الإلكتروني والمراقبة وصناعة البرمجيات العسكرية والاحتيال وحملات التأثير السياسي. وفي إحدى الحالات، استعانت مجموعة في شمال اليمن بالنموذج لتطوير برمجيات التوجيه والملاحة والتحكم لصواريخ ومسيّرات. وقسّم المشغلون المهمات بين نسخ متعددة من "كلود"، فأدت إحداها دور المبرمج وأخرى دور الباحث وثالثة راجعت الشيفرة. ولفتت الشركة إلى أن المجموعة اختبرت صاروخاً موجهاً، لكن الاختبار بدا فاشلاً، ولم تجد دليلاً على نجاحها في تشغيل منظومة عملياتية.

اقتصادياً، لا ينشئ الذكاء الاصطناعي بالضرورة نوعاً جديداً كلياً من الجرائم، بل يخفض تكلفة تنفيذها. يحتاج المهاجم إلى عدد أقل من المبرمجين والمحللين، ويستطيع العمل على أهداف متعددة بالتوازي، فيما تبقى قيمة العائد المحتمل من الابتزاز أو التجسس مرتفعة. وبذلك تصبح أهداف لم تكن تستحق تكلفة الهجوم سابقاً قابلة للاستهداف.

من يراقب الشركات؟

يقترح أمودي إدخال فرق تقويم مستقلة إلى شركات الذكاء الاصطناعي، ومنحها مكاتب وبطاقات دخول وحواسيب وصلاحيات قريبة من تلك المتاحة لفرق السلامة الداخلية. ويُفترَض أن تتمكن هذه الجهات من نشر النتائج المهمة من دون خضوعها إلى رقابة تحريرية من قبل الشركة، باستثناء المعلومات الأمنية أو القانونية أو التجارية الحساسة.

ويشبه أمودي الفكرة بالمشرفين المقيمين داخل المؤسسات المالية: كما لا يُترَك مصرف ليؤكد بنفسه متانة حساباته، يرى أن شركات الذكاء الاصطناعي لا ينبغي أن تكون الجهة الوحيدة التي تختبر نماذجها وتختار ما تنشره عن مخاطرها. ويدعو أيضاً إلى تنسيق معايير السلامة بين الشركات، ثم إلى اتفاقات دولية تبدأ من الاستخدامات التي يمكن أن تتفق القوى المتنافسة على خطورتها، مثل إنتاج الأسلحة البيولوجية. غير أن التنسيق يصطدم بقواعد مكافحة الاحتكار، وبانعدام الثقة بين الشركات والدول، وبخشية الولايات المتحدة من أن يؤدي إبطاء شركاتها إلى تقدم الصين عليها.

"أنثروبيك" تحذر وتستعد للبورصة

تظهر المفارقة الأكبر في أن تحذيرات أمودي تتزامن مع استعداد "أنثروبيك" لطرح أسهمها في البورصة. بحسب مصادر نقلت عنها "رويترز"، قد تبدأ الشركة تسويق طرحها العام الأولي في منتصف تشرين الأول/أكتوبر 2026 على أقرب تقدير، مع احتمال إتمام الإدراج قبل انتخابات منتصف الولاية الرئاسية الأميركية في تشرين الثاني/نوفمبر.

لا يعني ذلك أن موعد الطرح حُسِم؛ هو لا يزال مرهوناً بظروف السوق والموافقات ومسار التسويق. لكنه يضع خطاب السلامة أمام اختبار عملي. تصبح الشركة المدرجة مطالبة بإقناع مساهميها بتحقيق نمو مستمر، وقد تتعرض إلى ضغوط لإصدار نماذج أقوى وزيادة الإيرادات واسترداد نفقات الحوسبة الضخمة. في المقابل، قد تتحول السلامة نفسها إلى أصل تجاري. الشركة التي تثبت قدرتها على منع الاستخدامات العسكرية والإجرامية قد تكون أكثر جاذبية للحكومات والمصارف والمؤسسات الصحية والعملاء الذين يتعاملون مع بيانات حساسة.

المشكلة إذاً ليست في أن قادة التكنولوجيا يناقضون أنفسهم حين يحذرون من منتجاتهم. تجعل معرفتهم بما تستطيع النماذج فعله تحذيراتهم جديرة بالاهتمام. لكن صدقية هذه التحذيرات ستُقَاس بما إذا كانوا مستعدين لتحمل تكلفة التمهل، لا بما يكتبونه عن مخاطره. لقد تحول السؤال من "هل يمكن أن يصبح الذكاء الاصطناعي خطراً؟" إلى سؤال أكثر إلحاحاً: هل تستطيع الشركات التي تتنافس على الوصول إليه أولاً أن تتفق على عدم الوصول إليه بسرعة تفوق قدرتها على السيطرة عليه؟