كشف الذكاء الاصطناعي عن عيب بنيوي خطير، حيث يمكن أن يولد معلومات مضللة تبدو دقيقة. هذا الأمر يثير قلقاً كبيراً في مجالات القانون والطب والاقتصاد.
في حادثة مثيرة، استعان محامٍ بأحد نماذج الذكاء الاصطناعي لإعداد مرافعة قانونية، حيث قدم له إجابات مدعومة بأحكام قضائية وتواريخ، لكن المفاجأة كانت أن نصف تلك الأحكام لم تكن موجودة أصلاً، مما يبرز خطورة الاعتماد على هذه التكنولوجيا دون تحقق.
تفاصيل الحدث
أجريت مقابلات مع أربعة من أشهر نماذج الذكاء الاصطناعي، حيث اعترفت جميعها بوجود مشكلة في دقتها. نموذج كلود أشار إلى أنه أحياناً يقدم إجابات غير دقيقة بسبب تركيب المعلومات من مصادر متعددة، بينما أكد نموذج Grok أنه يولد الإجابة الأكثر احتمالاً وليس الأكثر صحة. هذه الاعترافات تثير تساؤلات حول مدى موثوقية هذه الأنظمة في اتخاذ القرارات المهمة.
تظهر الدراسات أن الذكاء الاصطناعي لا يبحث عن المعلومات كما يفعل الإنسان، بل يولد الكلمات بناءً على احتمالات إحصائية، مما يؤدي إلى خلق معلومات مضللة. أبحاث من معهد ماساتشوستس للتكنولوجيا (MIT) في عام 2025 أظهرت أن النماذج تستخدم لغة أكثر ثقة بنسبة 34% عندما تكون المعلومات غير دقيقة.
السياق والخلفية
تتزايد المخاوف بشأن تأثير الذكاء الاصطناعي على الاقتصاد العالمي، حيث تقدر الخسائر المالية المرتبطة بهلوسة الذكاء الاصطناعي بـ67.4 مليار دولار في عام 2024. دراسة من جامعة ستانفورد وجدت أن 75% من الإجابات القانونية المقدمة من هذه النماذج تحتوي على معلومات مضللة، مما يثير قلقاً كبيراً في أروقة المحاكم.
الباحث الفرنسي داميان شارلوتان رصد زيادة كبيرة في قضايا الهلوسة القانونية، حيث ارتفعت الحالات من حالتين أسبوعياً إلى حالتين أو ثلاث يومياً. هذا الاتجاه يسلط الضوء على الحاجة الملحة لتطوير معايير دقيقة لاستخدام الذكاء الاصطناعي في المجالات الحساسة.
التداعيات والتأثير
تتجاوز تداعيات هذه الظاهرة حدود المحاكم، حيث تشير الإحصائيات إلى أن 42% من القرارات المالية المبنية على الذكاء الاصطناعي تُعاد مراجعتها بسبب الهلوسة، و22% من الطلاب يتلقون معلومات مضللة من مساعدي الذكاء الاصطناعي. هذه الأرقام تعكس أزمة ثقة في الأنظمة التي يُفترض أن تسهل حياتنا.
في مؤتمر NeurIPS 2025، تم اكتشاف أن أكثر من 53 ورقة علمية تضمنت مراجع مخترعة بالكامل، مما يبرز كيف يمكن أن تدخل الأكاذيب إلى السجل العلمي الرسمي. هذه الظاهرة تشكل تهديداً للمعرفة العلمية وتؤكد على ضرورة التحقق من المعلومات قبل اعتمادها.
الأثر على المنطقة العربية
في المنطقة العربية، تتضاعف المخاطر بسبب الاعتماد على نماذج الذكاء الاصطناعي التي غالباً ما تكون مدربة على محتوى إنجليزي. هذا الأمر يزيد من احتمالية الخطأ، حيث يمكن أن يحصل طالب على مراجع مخترعة بأسماء عربية، أو مريض على تشخيص طبي غير دقيق. هذه الهشاشة تحتاج إلى مناقشة جدية لتفادي العواقب الوخيمة.
الذكاء الاصطناعي اليوم أداة في طور النضج، ويجب التعامل معها بحذر. بينما حققت بعض النماذج تقدماً ملحوظاً في تقليل معدل الهلوسة، يبقى السؤال الأهم: كيف يمكننا ضمان دقة المعلومات التي تقدمها هذه الأنظمة؟