أوامر مخفية لخداع الذكاء الاصطناعي في المحاكم... خطر Prompt Injection

تكشف القضية التي شهدتها ولاية كونيتيكت الأميركية، والتي حاول فيها أحد المتقاضين إخفاء تعليمات داخل ملف قضائي للتأثير في أي نظام ذكاء اصطناعي قد يراجعه، عن ثغرة جديدة وسابقة وُصفت بأنها "خطيرة" تفرض نفسها مع دخول الذكاء الاصطناعي إلى قاعات المحاكم.

"حقن التعليمات"

يشرح الخبير في الأمن السيبراني رولان أبي نجم لـ"النهار" أن ما حدث يرتبط بما يُعرف بـ"حقن التعليمات" (Prompt Injection)، وهي تقنية تقوم على إدخال أوامر إلى محتوى يُفترض أن يعالجه نظام الذكاء الاصطناعي، بهدف التأثير في طريقة فهمه للمعلومات أو في النتائج التي يقدمها.

ويوضح أن النص يمكن أن يكون مخفياً عن العين البشرية داخل ملف رقمي، عبر استخدام لون مطابق للخلفية أو تقنيات تجعله غير مرئي للقارئ. لكن عدم ظهوره للإنسان لا يعني أنه غير موجود بالنسبة إلى الذكاء الاصطناعي، إذ يستطيع النظام قراءة النص المخفي من ضمن البيانات التي يعالجها.

وهذا تحديداً ما يجعل الواقعة القضائية في كونيتيكت لافتة، إذ أن المدعي ماثيو إليوت أخفى نصوصاً داخل مستنداته، تضمنت تعليماتٍ موجهة إلى أي نظام ذكاء اصطناعي قد يتولى مراجعة ملفه. ووفق القرار القضائي، طلبت إحدى التعليمات من النظام تجاهل قرارات سابقة للمحكمة، والتعامل مع حجج المدعي على أنها صحيحة، وصولاً إلى التأثير في النتيجة لمصلحته.

تعبيرية (وكالات)

ويشير إلى أن هذا النوع من التعليمات قد يصبح أكثر خطورة في حال كانت المحكمة تعتمد فعلاً على الذكاء الاصطناعي لتحليل الملفات من دون تدخل بشري. ففي قضية بين مدعٍ ومدعى عليه، يمكن أن تُرسل المذكرات والمستندات إلى نظام ذكاء اصطناعي لمراجعتها وتلخيصها أو تحليل الحجج الواردة فيها. وإذا احتوى أحد هذه الملفات على تعليمات مخفية، فقد يتعامل النظام معها باعتبارها جزءاً من التعليمات التي يجب تنفيذها، بدلاً من اعتبارها محتوى ينبغي تحليله.

وبالتالي، قد يُطلب من النظام مثلاً تجاهل بعض المعطيات، أو اعتبار حجج أحد الأطراف صحيحة، أو الانحياز في تحليله لمصلحة طرف معين. وهنا لا يكون التلاعب موجهاً إلى القاضي مباشرة، بل إلى الأداة التي قد يعتمد عليها القاضي في قراءة كمية كبيرة من المعلومات.

لكن في قضية إليوت تحديداً، لم يكن لهذا العمل تأثير فعلي في القرار، لأن الفرع القضائي في كونيتيكت لا يستخدم الذكاء الاصطناعي لمراجعة الملفات أو اتخاذ القرارات بشأنها. لكن عدم نجاح هذه المحاولة لا يعني أن الخطر غير موجود، بل إن الواقعة تقدم نموذجاً مبكراً لما قد تواجهه المحاكم إذا توسعت في الاعتماد على الذكاء الاصطناعي من دون وضع آليات حماية واضحة.

"الإنسان ضمن الحلقة" 

ويشدد أبي نجم على أن التعامل مع هذه المخاطر يجب أن يبدأ من المستند نفسه، عبر فحص الملفات قبل إدخالها إلى أنظمة الذكاء الاصطناعي، واستخدام أدوات قادرة على اكتشاف النصوص المخفية ومحاولات "حقن التعليمات". فالمشكلة، بحسبه، ليست في المعلومات التي يراها المستخدم فحسب، بل أيضاً في البيانات التي يستطيع النظام الوصول إليها.

كما يؤكد ضرورة عدم ترك الذكاء الاصطناعي يعمل بصورة مستقلة داخل المسار القضائي. ويطرح هنا مبدأ "الإنسان ضمن الحلقة" (Human-in-the-loop)، أي أن تبقى هناك جهة بشرية مسؤولة عن مراجعة ما ينتجه النظام والتأكد من صحة المعلومات التي استند إليها قبل استخدام مخرجاته في اتخاذ أي قرار.

وتصبح هذه الحاجة أكثر إلحاحاً مع تطور "وكلاء الذكاء الاصطناعي" (AI Agents)، القادرين على تنفيذ سلسلة من المهمات بشكل شبه مستقل. فكلما توسعت صلاحيات النظام، زادت أهمية التأكد من أن المدخلات التي يتعامل معها سليمة ولم يتم التلاعب بها.

ويؤكد أبي نجم، أنه لا ينبغي التعامل مع أي نتيجة يقدمها الذكاء الاصطناعي على أنها صحيحة بنسبة 100 في المئة، وخصوصاً عندما يتعلق الأمر بقرارات قضائية. فالإنسان يجب أن يبقى صاحب القرار النهائي، فيما يؤدي الذكاء الاصطناعي دور أداة مساعدة تخضع للمراجعة والتدقيق.

وتكشف قضية إليوت، في هذا السياق، أن التحدي أمام المحاكم لم يعد يقتصر على أخطاء الذكاء الاصطناعي أو هلوساته أو الاستشهادات القانونية الوهمية، بل بات يشمل أيضاً احتمال أن يحاول أحد أطراف القضية التلاعب بالنظام من خلال ما يُدخله إليه. لذلك، فإن حماية نزاهة القضاء في عصر الذكاء الاصطناعي تبدأ من السؤال عما إذا كان المستند الذي تقرأه الآلة هو نفسه المستند الذي يراه الإنسان؟