تزايد استخدام تقنيات الذكاء الاصطناعي في المحاكم الهندية يثير قلقًا متزايدًا من تفاقم التحيزات والخلل الهيكلي في النظام القانوني. فقد تم الكشف عن حالات استخدمت فيها أدوات الذكاء الاصطناعي لإنتاج سوابق قانونية وهمية، مما أدى إلى إشكاليات قانونية خطيرة. في إحدى القضايا المتعلقة بنزاع على الأراضي في ولاية أندرا براديش، استند القاضي إلى أربعة سوابق قانونية لم تكن موجودة، تم توليدها بالكامل بواسطة أداة ذكاء اصطناعي.
لم تُكتشف القضية إلا عند الاستئناف، حيث وصلت إلى المحكمة العليا الهندية، التي اعتبرت أن الحكم المبني على استشهادات مزيفة يعد سوء سلوك وليس مجرد خطأ في عملية اتخاذ القرار. وقد أصدرت المحكمة إشعارات إلى المدعي العام الهندي ومجلس المحامين في الهند، مما يبرز القلق المتزايد حول استخدام الذكاء الاصطناعي في النظام القضائي.
التفاصيل
في مارس 2023، شهدت المحكمة العليا في البنجاب وهاريانا موقفًا غير تقليدي، حيث توقف القاضي خلال جلسة استماع للإفراج بكفالة ليتواصل مع ChatGPT للحصول على معلومات إضافية حول المبادئ القانونية المتعلقة بالإفراج بكفالة في حالات الاعتداء. ورغم أن القاضي رفض الإفراج بكفالة، إلا أنه أشار إلى استشارته للذكاء الاصطناعي، مما أثار تساؤلات حول موثوقية هذه الأدوات في اتخاذ القرارات القانونية.
القلق لا يقتصر على الهند فقط، بل يمتد إلى دول أخرى حيث يتم دمج الذكاء الاصطناعي في المحاكم. ففي كولومبيا، استخدم قاضٍ محادثة مع ChatGPT في حكم يتعلق بعلاج طفل مصاب بالتوحد، بينما عوقب محاميان في نيويورك بعد تقديم مستند قانوني استند إلى سوابق وهمية أنشأها ChatGPT.
السياق
تواجه الهند أزمة قانونية كبيرة، حيث يُقدّر أن هناك حوالي 55 مليون قضية معلقة في النظام القضائي، مما يؤدي إلى تأخيرات طويلة الأمد. على سبيل المثال، تم تبرئة ثلاثة رجال في ولاية أتر برديش بعد قضائهم 38 عامًا في السجن بسبب جريمة قتل حدثت في عام 1982. هذه التأخيرات تثير قلقًا كبيرًا حول العدالة، حيث يُحتجز العديد من المتهمين في السجون لفترات طويلة دون محاكمة.
تشير التقارير إلى أن استخدام الذكاء الاصطناعي في هذه الظروف قد يبدو كحل سريع، لكنه يحمل مخاطر كبيرة. فالأدوات القائمة على الذكاء الاصطناعي قد تعزز التحيزات الموجودة بالفعل في البيانات القانونية المستخدمة لتدريبها، مما يؤدي إلى نتائج غير عادلة.
التداعيات
القلق الأكبر يتعلق بإمكانية أن يؤدي استخدام الذكاء الاصطناعي إلى تعزيز التحيزات الاجتماعية والتمييز. تشير البيانات إلى أن المجتمعات المهمشة، مثل الداليت والمجموعات القبلية، قد تتعرض لمزيد من الظلم نتيجة لهذه التحيزات.