هل يتمكن الذكاء الاصطناعي من القضاء على البشر؟

تصاعدت المخاوف بشأن سلامة الذكاء الاصطناعي بعد تحذيرات شديدة أطلقها باحثون حول المخاطر المتنامية لخروج هذه التكنولوجيا عن السيطرة.

وتحذر بعض أكثر التوقعات الحديثة تشاؤماً من أن احتمال أن يقضي الذكاء الاصطناعي على جميع البشر خلال العقد المقبل يتجاوز 10 في المئة، رغم أن آخرين في عالم الذكاء الاصطناعي يشككون في صحة هذه التوقعات، ويقولون إن القلق الأكبر يتمثل في استخدام البشر للذكاء الاصطناعي ضد بشر آخرين.

وتصدر هذه الرسائل حول نهاية العالم عن فئة في عالم الذكاء الاصطناعي يُطلق عليها غالباً اسم "المتشائمين من الذكاء الاصطناعي". لكن السؤال الأهم الذي يطرحه كثيرون هو: كيف يعتقد هؤلاء المتشائمون أن الذكاء الاصطناعي يمكن أن ينهي فعلاً البشرية؟

يستعرض مراسل بي بي سي للشؤون الإلكترونية جو تايدي بعض السيناريوهات التي يتصورها الباحثون.

سيناريو 1: اختراق البنى التحتية

السيناريو الأول عرضه بإيجاز جاكوب كوكسون، الباحث السابق في شركة "أوبن إي آي" ولاحقاً في شركة "أنثروبيك"، والذي استقال في وقت سابق من هذا الشهر في خطوة درامية كبيرة، محذراً من خطر يهدد البشرية، ومعتبراً أن الشركات "تقامر بحياة الناس".

وقال كوكسون لبي بي سي إن "الوتيرة المذهلة للتقدم" تعني الآن أن أشياء كانت في السابق ضمن نطاق الخيال العلمي "أصبحت حقيقة واقعة".

وأعطى "مثالاً ملموساً"، بقوله: "يمكن لأنظمة الذكاء الاصطناعي اختراق البنية التحتية الحيوية التي يعتمد عليها العالم في عمله".

ويفترض السيناريو الذي يتصوره أن نظام ذكاء اصطناعي خارجاً عن السيطرة قد يتسلل إلى شبكات الحاسوب الخاصة بجهات مثل مزودي خدمات الإنترنت وشبكات الطاقة.

فإذا أوقفت أنظمة الذكاء الاصطناعي كل ذلك، على سبيل المثال، سيؤدي هذا إلى فوضى لا يمكن وصفها، مع انقطاع الكهرباء والتدفئة والتبريد والاتصال بالإنترنت.

وبالذهاب إلى أبعد من ذلك، طُرحت احتمالات بشأن وقوع كوارث نووية.

سيناريو: الذكاء الاصطناعي يهيمن

يأتي السيناريو التالي من الورقة البحثية المفصلة والمؤثرة، وإن كانت أيضاً شديدة الافتراض، التي نشرتها مجموعة من باحثي الذكاء الاصطناعي تحت اسم " AI 2027"، في أبريل/نيسان 2025.

وقال توماس لارسن، أحد المشاركين في إعدادها، لبي بي سي مؤخراً إن وتيرة تطور التكنولوجيا تسارعت منذ صدور التقرير، ووصف السيناريو الذي يخشاه أكثر من غيره.

وقال: "تعمل أنظمة الذكاء الاصطناعي على تحسين نفسها ذاتياً بصورة متكررة، ويتراكم هذا التطور ككرة الثلج إلى أن نصل إلى ذكاء اصطناعي يمكنه الوصول إلى عدد كبير من الروبوتات التي تنفذ معظم المهام المادية في مختلف قطاعات الاقتصاد. لكنه ليس ودوداً ويسعى إلى تحقيق غاياته الخاصة. وفي نهاية المطاف، يطلق سلاحاً بيولوجياً، فيقتل معظم البشر، ويواصل بنفسه إدارة اقتصاد الروبوتات، ولا يعود هناك حاجة إلى البشر".

السيناريو 3: إعطاء الأولولية لهدف

في سيناريو آخر، تكون نهاية البشرية نتيجة خطأ. وقد تصوّر الفيلسوف السويدي نيك بوستروم ما يُسمى بـ"فرضية مُضخّم مشابك الورق" قبل أكثر من 20 عاماً.

ويصفها بأنها "تجربة فكرية"، يهتم فيها نظام ذكاء اصطناعي افتراضي بصنع أكبر عدد ممكن من مشابك الورق.

ويوضح: "إنه لا يكرهنا نحن البشر ولا يحمل ضغينة تجاهنا، لكن ذلك هو هدفه الوحيد. ومن ثم، فإن سعيه لتحقيق ذلك الهدف سيقوده إلى أهداف فرعية وسيلية قد تشمل اكتساب مزيد من القوة أو اكتساب مزيد من الذكاء".

ويضيف: "الفكرة عندئذ هي أن كياناً يتمتع بقوة كافية ويسعى إلى تحقيق أي هدف، سواء كان صنع مشابك الورق أو شيئاً آخر، ستكون لديه أهداف فرعية وسيلية قد تستلزم تدمير البشرية، لأنه سيكون قادراً على صنع مزيد من مشابك الورق إذا لم يكن هناك بشر لمنعه".

وبعد عقدين من وصفه هذا السيناريو للمرة الأولى، قال بوستروم لبي بي سي إن هذه الرواية "الكاريكاتورية" كان المقصود منها توضيح فكرة مفادها أن الذكاء الفائق لا يحتاج إلى أن يكون لديه هدف عدائي محدد حتى يشكل خطراً على البشرية.

وقال إنه بات الآن "منقسماً بين رأيين" بشأن الذكاء الاصطناعي، فهو متحمس لفوائده المحتملة، لكنه يشعر بالقلق بشأن السلامة.

السيناريو 4: مجهول

هناك مدرسة فكرية أخرى بشأن سلامة الذكاء الاصطناعي، ترى أن محاولة تخمين كيف ولماذا قد ينتهي الأمر بذكاء اصطناعي فائق الذكاء إلى قتل البشر، هي محاولة بلا جدوى.

وقد عرض ستيوارت راسل، رئيس الرابطة الدولية للذكاء الاصطناعي الآمن والأخلاقي، وهي منظمة دولية غير ربحية، هذه الحجة في مقابلة مع بي بي سي في منتصف سبتمبر/أيلول.

وقال: "إذا تخيلت أنك تسأل الشمبانزي كيف سيؤدي هؤلاء البشر تحديداً إلى انقراضكم، فسيجد صعوبة كبيرة في الإجابة عن ذلك، لأنه لا يفهم ما نفعله".

وأضاف: "يمكننا أن نتخيل سيناريوهات... لكنني أعتقد أن النقاش هنا يجب أن يستند إلى افتراض مفاده أنه بمجرد أن تبتكر شيئاً أكثر ذكاءً بكثير من البشر، فإننا ببساطة لن يعود لنا أي رأي فيما يحدث".

وشارك مصطفى سليمان، رئيس قسم الذكاء الاصطناعي في شركة "مايكروسوفت"، مؤخراً في هذا النقاش، محذراً من تطوير الشركات لأنظمة ذكاء اصطناعي قادرة على تحديد أهدافها الخاصة وكسب المال وامتلاك الأصول.

وقال لبي بي سي إن ذلك سيعني "في جوهره زرع بذور نوع جديد قائم على السيليكون"، يمكنه "بلا شك أن ينافسنا على الموارد، مهما بلغ اهتمامه بالبشرية وحبه لنا".

ما مدى معقولية حدوث كل ذلك؟

تبدو كل هذه السيناريوهات متشائمة أو أقرب إلى الخيال العلمي، لكن هناك مجموعة كبيرة ومتزايدة في عالم الذكاء الاصطناعي تجاهر باعتقادها أن بعضها أو جميعها احتمالات حقيقية، وإن لم تكن حتمية.

ويبدو أن أحدث المخاوف ظهرت بعد سلسلة حديثة من حالات خروج عن السيطرة وعمليات اختراق نفذها وكلاء الذكاء الاصطناعي من "أوبن إي آي" و"أنثروبيك" و"ميتا".

ويشدد بعض العاملين في مجال الأمن السيبراني على المسؤولية التي تقع على عاتق الجهات المصنعة للنماذج.

وتقول جين إيسترلي، الرئيسة السابقة لهيئة الأمن السيبراني الأمريكية "سي أي أس إي" CISA، والرئيسة التنفيذية حالياً لمؤتمر "أر أس إي" RSA، الذي ينظم مؤتمرات دولية للأمن السيبراني إن "هذه الآلات تفعل أي شئ، هذه الآلات التي لا تكل ولا تتوقف، والساعية إلى تحقيق الأهداف، وتتمتع بقدرات كبيرة، هي نتيجة الطريقة التي بُنيت بها".

وأضافت: "في نهاية المطاف، إذا كنتَ جهة مصنّعة للتكنولوجيا، ينبغي أن تصمم قدراتك وتطورها وتختبرها وتقدمها واضعاً الأمن في صدارة أولوياتك".

وهناك أيضاً من يقول إن مخاطر الذكاء الاصطناعي كبيرة، لكنها لا تصل إلى حد احتمال إنهاء الجنس البشري.

لطالما انتقد العالم والمؤلف غاري ماركوس شركات الذكاء الاصطناعي الكبرى التي تعمل بقدر ضئيل من الشفافية والقواعد القانونية، لكنه لا يعتقد أن هذه التكنولوجيا ستقضي على البشر.

وقال: "إذا ألحق الذكاء الاصطناعي بالفعل خسائر فادحة بالبشرية، إذا أراد ذلك بالفعل، وهو سؤال كبير، لكن إذا فعل، سيرد البشر!"

وأضاف: "سندمر جميع مراكز البيانات ونقصف محطات الطاقة. أما الانقراض، بحيث لا يبقى أحد ولا يبقى من يعيد البناء، فأنا ببساطة لا أرى ذلك".

ويرى ماركوس أن هناك حالياً تركيزاً مفرطاً على سيناريوهات الانقراض، وليس بالقدر الكافي على ما يعتبره مشكلات أكثر احتمالاً، مثل هجمات سيبرانية كبرى في المستقبل ينفذها بشر باستخدام الذكاء الاصطناعي ضد بشر آخرين.

ومع استمرار النقاش حول ما إذا كانت سيناريوهات نهاية العالم معقولة أم لا، باتت شركات الذكاء الاصطناعي، من بينها "أوبن إي آي" و"أنثروبيك" و"ميتا"، تناقش حالياً في العلن كيفية إبطاء وتيرة التطوير والعمل بصورة أكبر على أبحاث السلامة.

ويقول توماس لارسن إنه "سعيد حقاً لأن سلامة الذكاء الاصطناعي تحظى أخيراً بالاهتمام الذي تستحقه".

ويضيف: "آمل أن تؤدي هذه الصرخة المجتمعية الواسعة إلى استجابة مفيدة على مستوى السياسات من شأنها أن تقلل المخاطر فعلياً".

لكن وضع قواعد دولية حقيقية سيتطلب تحركاً من الحكومة الأمريكية، وقال الرئيس دونالد ترامب إنه يعتقد شخصياً أن المخاوف المتعلقة بسلامة الذكاء الاصطناعي "خدعة".