شركة تكشف محاولات لاستغلال الذكاء الاصطناعي في تطوير أسلحة بيولوجية

(CNN) -- صرحت شركة "Anthropic" بأنها حظرت عدداً من الحسابات التي استخدمت نماذج الذكاء الاصطناعي التابعة لها بطرق قد تساعد على تطوير أسلحة بيولوجية.

في تقرير نُشر الخميس، قالت شركة الذكاء الاصطناعي Anthropic المعروفة بنموذج "كلود"، إنها تعتبر إساءة استخدام التكنولوجيا لأغراض بيولوجية واحدة من "أخطر المخاطر" التي تواجه نماذج الذكاء الاصطناعي.

ويستعرض التقرير الجديد خمس حالات واقعية تمكّن فيها مستخدمون من "تجاوز الضوابط" التي تمنع الوصول إلى مناطق محددة، و"اتخذوا خطوات أخرى لإخفاء الغرض من أبحاثهم للتحايل على إجراءات الحماية" التي وضعتها الشركة. 

وتشمل الأمثلة أبحاثًا حول تعزيز وظائف مسببات الأمراض، إضافة إلى دراسات مرتبطة بأمراض معدية مثل إنفلونزا الطيور، وسموم ومواد سامة جديدة.

وبعد مراجعة نشاط امتد على مدى 30 يوماً، قالت "Anthropic" إنها رصدت نحو 35 "جهداً بحثياً منفصلاً" يتضمن أنشطة قد تثير القلق. 

ومع ذلك، أقرّت الشركة بأنها لا تستطيع التأكد ممّا إذا كان أصحاب تلك الحسابات يعتزمون إحداث ضرر بالفعل، أم أنهم كانوا يجرون أبحاثاً لأغراض علمية مشروعة.

وأوضحت أن الأشخاص الوارد ذكرهم في دراسات الحالة كانوا "علماء عاملين في المجال"، لكنها لم تكشف عن المؤسسات البحثية أو الدول التي جرت فيها تلك الأنشطة.

وجاء في التقرير: "لم تعد الهجمات المتطورة تتطلب مهاجمين يتمتعون بمهارات متطورة"، مضيفًا أنّ القدرات السيبرانية لنماذج الذكاء الاصطناعي قلّصت الفجوة في العمالة والأدوات التي كانت تفصل سابقاً بين العمليات المدعومة من دول وتتمتع بموارد كبيرة، وبين الأفراد الذين يعملون بمفردهم.

وتضمنت إحدى الحالات طلب مساعدة على كتابة طلب للحصول على منحة لتمويل أبحاث تتعلق بتعزيز وظائف فيروس شيكونغونيا، مع التركيز على قدرته على الانتقال والتهرب من الاستجابة المناعية. 

وفي حالة أخرى، استخدم باحث من خارج الولايات المتحدة نموذج "كلود" في عمل يتعلق بإنفلونزا الطيور، وركز على تكيف الفيروسات مع الثدييات والآليات التي قد تؤدي إلى الإصابة بأمراض خطيرة.

كما تناول التقرير أبحاثاً مرتبطة بفيروسات الأورثوبوكس، وهي مجموعة تضم فيروس الجدري وفيروس جدري القردة (إمبوكس)، إضافة إلى أبحاث حول السموم.

وينظر إلى تطوير الأدوية باعتباره واحداً من أكثر تطبيقات الذكاء الاصطناعي الواعدة. وغالباً ما يشير قادة صناعة التكنولوجيا إلى إمكانية مساهمة هذه التقنيات في علاج السرطان وغيره من الأمراض. لكن الخصائص نفسها التي تجعل الذكاء الاصطناعي أداة قوية لاكتشاف مواد وأدوية جديدة يمكن أن تجعله أيضاً مفيداً في تطوير أسلحة بيولوجية إذا وقع في أيدي جهات سيئة النية.

وقالت "Anthropic" إنها تريد أن تظل نماذجها مفيدة للبحث العلمي، إلا أن النماذج الحديثة أصبحت قادرة على تنفيذ مهام أكثر تعقيداً بكثير من الإصدارات السابقة، ما يعني أن احتمالات إساءة الاستخدام ترتفع بالتوازي مع زيادة الفوائد المحتملة. 

وأضافت أن الجهات السيئة قد تحاول الاستفادة من التطبيقات البيولوجية المشروعة للذكاء الاصطناعي للحفاظ على نوع من "الإنكار المقبول" بشأن أبحاث قد تكون ضارة.

وأكدت الشركة أنه كلما اقتربت نماذجها من مستوى أداء الخبراء في المهام العلمية المعقدة أو تجاوزته، فمن المتوقع أن يزداد تأثيرها في المجالات المفيدة والضارة على حد سواء. 

كما أشارت إلى أنّ الانتشار الواسع لنماذج الذكاء الاصطناعي يمنح الشركات المطورة قدرة غير مسبوقة على رصد بعض التهديدات المرتبطة بالاستخدام الفعلي لهذه التقنيات.

وأشارت "Anthropic" إلى أنّ نماذجها الحديثة تتضمّن إجراءات حماية أقوى تفرض قيوداً على مجموعة واسعة من الاستفسارات المتعلّقة بالأبحاث البيولوجية ذات الاستخدام المزدوج. 

ورغم وجود مؤشرات على نجاح أنظمة الحماية الحالية، ترى الشركة أن تطور قدرات الذكاء الاصطناعي والتهديدات المحتملة سيجعل من الضروري تطوير أنظمة أمان أكثر قوة.

وأشار التقرير أيضاً إلى أن الشركة عطّلت محاولات لاستخدام نماذجها في عمليات مراقبة واحتيال، وفي تطوير أسلحة تقليدية مثل الطائرات المسيّرة والصواريخ. 

وزعم التقرير أن جهات يُشتبه في ارتباطها بالحكومة الصينية استخدمت "كلود" في أنشطة مراقبة استهدفت أقلية الإيغور في شينجيانغ ومجتمعات دينية مختلفة.

كما قالت الشركة إن جهات موجودة في شمال اليمن استخدمت "كلود" للمساعدة على تطوير برمجيات توجيه لأنظمة صاروخية. ورغم أن التقرير لم يسم تلك الجهات بشكل مباشر، فإنه بدا وكأنه يشير إلى جماعة الحوثيين المدعومة من إيران.

وتأتي هذه الإفصاحات وسط تزايد التحذيرات من موظفين وباحثين سابقين في شركات الذكاء الاصطناعي بشأن مخاطر السلامة. ويرى بعضهم أن التكنولوجيا تتقدم بسرعة قد تتجاوز في المستقبل قدرة البشر على مراقبتها والسيطرة عليها.

وفي يوليو/تموز الماضي، وقع نحو 1,400 موظف في شركات الذكاء الاصطناعي رسالة مفتوحة طالبوا فيها الحكومة الأمريكية بتنظيم التكنولوجيا وإبطاء وتيرة تطويرها لضمان سلامتها. وراهنا، لا تزال شركات الذكاء الاصطناعي تعتمد إلى حد كبير على التنظيم الذاتي.

وأضافت "Anthropic" أنّ العالم سيستفيد من تبني قطاع الذكاء الاصطناعي آلية قانونية وقابلة للتحقق تسمح للشركات بالتعاون في تحديد وتيرة طرح النماذج شديدة القوة، بهدف تحقيق توازن بين الابتكار وتقليل المخاطر المحتملة.