من أين جاءت فكرة فناء البشرية بالذكاء الاصطناعي؟ "أنثروبيك" في قلب القصة

داخل أطول مبنى للمكاتب في بيركلي بولاية كاليفورنيا، يجتمع باحثون في مساحة عمل مشتركة تحمل اسم Constellation لمناقشة أحدث مخاطر الذكاء الاصطناعي وأكثرها إثارة للخوف.

هذا المجتمع الصغير لم يبقَ على هامش صناعة التكنولوجيا. بعض أفراده كانوا من أوائل العاملين في "أوبن إيه آي" و"أنثروبيك"، فيما انتقلت أفكارهم حول مخاطر الذكاء الاصطناعي إلى داخل الشركتين، ولاسيما منهما "أنثروبيك".

تقرير موسّع نشرته "وول ستريت جورنال" يتتبع جذور هذا التيار، وكيف التقت مخاوفه حركة "الإيثار الفعّال"، وصولاً إلى شبكة من الباحثين والممولين الذين تركوا أثراً واضحاً في النقاش حول سلامة الذكاء الاصطناعي.

البداية من بيركلي

تعود الجذور الفكرية لهذا المجتمع إلى إليعازر يودكوفسكي، الذي كان يكتب منذ منتصف العقد الأول من الألفية عن الانحيازات المعرفية ومخاطر ذكاء اصطناعي قد يخرج عن السيطرة، وأطلق على نفسه وصف "العقلاني".

كان داريو أمودي، الرئيس التنفيذي الحالي لـ"أنثروبيك"، من قرّاء كتاباته في مرحلة مبكرة، وشارك عام 2008 في استضافة لقاء لأعضاء مجتمع التدوين المرتبط بيودكوفسكي.

في الفترة نفسها، بدأ أمودي بالاقتراب من GiveWell، وهي منظمة تهدف إلى مساعدة المتبرعين على تحقيق أكبر منفعة ممكنة من أموالهم. أصبح لاحقاً مستشاراً لها، ثم مستشاراً علمياً للجهة الخيرية التي انبثقت عنها.

الإيثار الفعّال

عام 2011، ساهم الفيلسوفان توبي أورد وويل ماكاسكيل في صياغة مصطلح "الإيثار الفعّال". تقوم الفكرة على البحث عن الوسائل التي تحقق أكبر قدر ممكن من الخير للآخرين.

بحلول عام 2014، كان هولدن كارنوفسكي يزداد اقتناعاً بالحجج المتعلقة بأهمية حماية العالم من ذكاء اصطناعي قد يخرج عن السيطرة. وإذا كان الهدف إنقاذ الأرواح، فإن منع الذكاء الاصطناعي من القضاء على البشرية يمكن أن يحقق، وفق هذا المنطق، أكبر أثر خيري بين القضايا المختلفة.

أصبح منزل قرب حي غلين بارك في سان فرانسيسكو نقطة تجمع لهذا المجتمع. أكثر من نصف مؤسسي "أنثروبيك" عاشوا فيه خلال مراحل مختلفة، بينهم داريو ودانييلا أمودي، وكبير العلماء جاريد كابلان وكريس أولاه.

لوحة إلكترونية تحمل عبارة الذكاء الاصطناعي وسط مكوّنات وشرائح حاسوبية. (رويترز)

من "أوبن إيه آي" إلى "أنثروبيك"

انتقل عدد من أفراد هذا الوسط إلى "أوبن إيه آي". تأسست الشركة عام 2015 بتعهد تمويلي قيمته مليار دولار من ممولين بينهم إيلون ماسك، الذي قال إنه أراد الحماية من المخاطر الوجودية التي قد يمثلها الذكاء الاصطناعي.

بعد خمس سنوات، ساهمت المخاوف المتعلقة بالسلامة نفسها في قرار أمودي وآخرين الانفصال وتأسيس "أنثروبيك".

احتاجت الشركة الجديدة إلى التمويل، وهنا ظهر سام بانكمان-فريد، مؤسس "إف تي إكس" FTX وأحد أبرز الداعمين آنذاك لمشاريع "الإيثار الفعّال".

استثمر بانكمان-فريد 500 مليون دولار في "أنثروبيك"، خمسة أضعاف المبلغ الذي أوصى به فريقه بدايةً، بحسب شخص تحدث إلى الصحيفة. قالت "أنثروبيك" إنها ستستخدم الأموال للمساعدة في دراسة خصائص السلامة في نماذج الذكاء الاصطناعي الكثيفة الحوسبة وتحسينها.

سيناريوات الكارثة

داخل "أنثروبيك"، لم تكن هذه المخاوف مجرد نقاشات أكاديمية. موظفون مبكرون ناقشوا سيناريو شبيهاً بـ"مشروع مانهاتن"، قد يضطرون فيه للانتقال إلى الصحراء لبناء الذكاء الاصطناعي داخل قاعدة حكومية محمية كهرومغناطيسياً.

عام 2022، اجتمع باحثون وشخصيات من هذا المجتمع في جزيرة إليوثيرا في الباهاما. هناك، ألقى يودكوفسكي محاضرة تناولت أسباب اعتقاده بإمكان وقوع كارثة مرتبطة بالذكاء الاصطناعي.

إحدى جلسات الغداء خُصصت لأشخاص يعتقدون أن احتمال انقراض البشرية خلال المئة عام المقبلة يبلغ 75% أو أكثر.

ما بعد انهيار "إف تي إكس"

تضررت صورة "الإيثار الفعّال" بعد انهيار "إف تي إكس" وسجن بانكمان-فريد. ابتعد بعض أبرز الأسماء علناً عن الحركة، فيما قال متحدث باسم "أنثروبيك" لمجلة "تايم" عام 2024 إن داريو ودانييلا أمودي لا يعرّفان نفسيهما باعتبارهما من أتباعها، رغم تعاطفهما الواضح مع بعض الأفكار التي تقوم عليها.

مع ذلك، بقي عدد من أقدم موظفي الشركة وأكثرهم تأثيراً قريبين من هذا الوسط، واستمر حضور باحثين من "أنثروبيك" في أماكن مثل Constellation.

الخوف يصل إلى العالم

عاد النقاش بقوة مع استقالة الباحث في "أنثروبيك" جاكوب كوكسون. كتب كوكسون أن الأشخاص الذين يبنون الذكاء الاصطناعي "يعتقدون بجدية" أنه قد يقتل البشر جميعاً بحلول نهاية العقد.

انتشرت رسالته عبر شبكات التلفزيون والبودكاست ووسائل التواصل والصحف، وأطلقت نقاشاً عالمياً حول التكنولوجيا وكيفية تنظيمها.

يُظهر تقرير "وول ستريت جورنال" أن أفراداً من مجتمع سلامة الذكاء الاصطناعي أمضوا أكثر من عقد في الانشغال بهذه المخاطر، وطوّروا حججهم داخل منازل جماعية في منطقة خليج سان فرانسيسكو وتبادلوا التوقعات في مؤتمرات في بيركلي والباهاما. وكان بعض هؤلاء من أوائل الموظفين في "أوبن إيه آي" و"أنثروبيك"، فيما ظل تأثير مجتمع سلامة الذكاء الاصطناعي قوياً بصورة خاصة داخل "أنثروبيك".