أنثروبيك تطالب بإيقاف النماذج الذكية عند "قتل 50 أو خسارة مليار دولار"
أفاد تقرير حديث بأن شركة أنثروبيك تسعى لإعداد مشروع قانون يُلزم الشركات التقنية بإيقاف نماذج الذكاء الاصطناعي، إذا تسببت خطأ في قتل 50 شخصاً، أو خسارة قيمتها مليار دولار.
وذكرت مجلة بوليتيكو، أن الشركة الناشئة التي طورت منصة كلود الذكية، تعمل على وضع مسودة قانون جديد حول سلامة الذكاء الاصطناعي، آملة أن يتبناها الكونجرس الأميركي.
ويضع التشريع المنتظر مجموعة من السيناريوهات الخطيرة التي تستوجب إيقاف النماذج الذكية في حال وقوعها.
وحددت مسودة مشروع القانون عدة سيناريوهات خطيرة، من بينها أن يتسبب خطأ ما يرتكبه نموذج ذكاء اصطناعي في قتل أكثر من 50 شخص، أو أن يتسبب في خسارة البشر ما قيمته مليار دولار.
وأوضحت المسودة أن "الخطر الكارثي" الناتج عن أخطاء نماذج الذكاءالاصطناعي لابد أن يكون نابعاً من "إنشاء أو إطلاق سلاح بيولوجي، أو محاولة النموذج التهرب من سيطرة مطوره أو هجوم سيبراني".
وتتشابه الخسائر التي حددتها مسودة مشروع القانون مع تشريع Senate Bill 53 الصادر عن ولاية كاليفورنيا، ومرره الكونجرس مؤخراً.
واقترح مشروع القانون التوصل إلى تحليل لإمكانية تسبب النموذج في كوارث من خلال الاستعانة بـ "مقيّمين مستقلين" يتم تسجيلهم لدى وزارة التجارة الأميركية.
ويمكن أن تتحمل مختبرات الذكاء الاصطناعي نفسها تكاليف هؤلاء المقيّمين، شريطة ألا يكون "الدفع مشروطاً بنتائج التقييمات"، بحسب التقرير.
وليس من الواضح كيف يضمن القانون المقترح عدم تأثير المدفوعات على التقييم، خاصة بعد إثارة هذه المخاوف عبر اقتراح ديميس هاسابيس، رئيس مجلس إدارة شركة ديب مايند داخل جوجل، قبل بضعة أشهر، بتأسيس هيئة تنظيمية ذاتية الإدارة للذكاء الاصطناعي يجب أن تحاكي "هيئة تنظيم الصناعة المالية" (FINRA) في القطاع المالي.
وأوضحت مسودة مشروع القانون أنه عندما يقرر المُقيّمون وجود خطر كارثي وشيك، يكون أمامهم 72 ساعة للاتصال بوزارة التجارة بشأن ذلك، وعندئذٍ يتعين على وزارة التجارة أن تطلب من قاضٍ في واشنطن العاصمة وقف إطلاق النموذج.
وذكرت أن التشريع المنتظر يحظر صراحةً على أي وكالة فيدرالية أن تمتلك السلطة التقديرية لوقف توزيع النموذج من تلقاء نفسها.
وأكد متحدث رسمي باسم أنثروبيك، في تصريح لـ"بوليتيكو"، وجود مسودة مشروع القانون، قائلاً: "يمثل هذا المشروع المقترحات الواردة في إطار عمل أنثروبيك المتقدم للذكاء الاصطناعي، الذي ندعو إلى تبنيه لدى المشرعين على المستويين الفيدرالي والولائي منذ يونيو".
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.