أثار استخدام مرجع قضائي وهمي أمام المحكمة العليا البريطانية جدلًا بشأن مخاطر الاعتماد على أدوات الذكاء الاصطناعي في الأبحاث القانونية، بعدما استشهدت مدعية بارزة في دائرة الادعاء الملكية بقضية تبيّن لاحقًا أنها غير حقيقية، وأن تفاصيلها ظهرت ضمن ملخص مولّد بالذكاء الاصطناعي أثناء بحث عبر الإنترنت.
وقعت الحادثة أثناء نظر طعن يتعلق بقرار محاكمة طفل كان يبلغ 11 عاماً وقت الواقعة محل القضية، إذ اعترض فريق الدفاع على قرار دائرة الادعاء الملكية بالمضي في محاكمته، معتبراً أن الادعاء لم يأخذ بصورة كافية آراء مختصين اجتماعيين ونفسيين بشأن حالته.
وخلال دفاعها عن قرار الاستمرار في المحاكمة، قدمت المدعية رافيندر ديلون، وهي مدعية بارزة في وحدة الجرائم الجنسية الخطيرة التابعة لدائرة الادعاء الملكية، مرجعاً قانونياً مفصلاً لقضية قالت إنها تدعم موقف الادعاء.
لكن البحث في السجلات القانونية أظهر أن القضية التي حملت اسماً ورقماً قضائياً كاملين لا وجود لها.
وبحسب الغارديان، فإن بحثاً عبر الإنترنت أظهر للمدعية ملخصاً مولداً بالذكاء الاصطناعي تضمن تفاصيل القضية المختلقة، قبل أن تنتقل هذه المعلومات إلى المرافعة القانونية دون التحقق منها عبر قاعدة قانونية موثوقة.
وأقرت ديلون لاحقاً بأن الاستشهاد بالقضية كان خطأ، وقالت إنها كانت تقصد الإشارة إلى حكم قضائي حقيقي صدر قبل نحو 15 عاماً، إلا أن قاضيين بارزين في المحكمة العليا وصفا تفسيرها لكيفية وقوع الخطأ بأنه غير مرضٍ.
ورغم خطورة الخطأ، أكدت المحكمة أن الاستناد إلى القضية الوهمية لم يؤثر في النتيجة النهائية للطعن المقدم من محامي الطفل بشأن قرار استمرار محاكمته.
وقالت المحكمة إن القضية ستستمر أمام محكمة الأحداث، بينما فتحت الواقعة نقاشاً أوسع بشأن ضرورة تدقيق المراجع القانونية التي تنتجها أو تلخصها أدوات الذكاء الاصطناعي قبل استخدامها في ملفات قضائية رسمية.
وأعلنت دائرة الادعاء الملكية أنها أجرت مراجعة داخلية فور اكتشاف الخطأ للتأكد من كيفية حدوثه وما إذا كانت هناك قضايا أخرى قد تأثرت به.
وأكدت الدائرة أن سياستها بشأن الذكاء الاصطناعي تفرض قيوداً على استخدامه، ولا تسمح بالاعتماد عليه في اتخاذ القرارات القانونية، كما تشترط إجراء مراجعة بشرية للتأكد من دقة المعلومات.
وأضافت أنها عممت بعد المراجعة توجيهات تؤكد ضرورة الاستناد إلى مصادر قانونية موثوقة عند ذكر الأحكام والسوابق القضائية.
وتأتي الواقعة وسط تزايد الأخطاء المرتبطة باستخدام الذكاء الاصطناعي داخل المحاكم البريطانية، إذ ارتفع عدد الحالات المسجلة في قاعدة يتابعها قانونيون بريطانيون إلى 101 حالة تشمل أخطاء مؤكدة أو مشتبهاً بها أو محل خلاف، إلى جانب استشهادات قانونية تبين أنها غير صحيحة.
وتعد الحادثة ثاني واقعة معروفة ترتبط بدائرة الادعاء الملكية نفسها، بعدما أقرت في فبراير الماضي بأن أحد محاميها استخدم مراجع قانونية غير موجودة في قضية تسليم، ورجحت أن يكون الذكاء الاصطناعي وراء إنتاجها.
وكانت المحكمة العليا البريطانية قد حذرت سابقاً من أن إساءة استخدام الذكاء الاصطناعي في القضايا قد تؤثر في إدارة العدالة وثقة الجمهور بالنظام القضائي، مشددة على أن المسؤولية النهائية عن صحة ما يقدم للمحكمة تقع على الأشخاص الذين يستخدمون هذه الأدوات.