تتزايد ثقة المستخدمين في الذكاء الاصطناعي، مما يؤدي إلى اتخاذ قرارات هامة بناءً على معلومات غير دقيقة. تشير التقارير إلى أن 47% من مستخدمي الذكاء الاصطناعي المؤسسي اتخذوا قرارات مبنية على محتوى مضلل في عام 2024. وفي الوقت نفسه، يقضي الموظفون ما بين 3 إلى 4 ساعات أسبوعياً في التحقق من مخرجات هذه الأنظمة.
الأداة التي وُعدت بأنها ستوفر الوقت، أصبحت تستهلكه في مراجعة أخطائها. هذه الظاهرة تثير القلق، خاصة في منطقة تعاني من هشاشة في استخدام هذه التكنولوجيا.
تفاصيل الحدث
في منطقتنا، تتضاعف الهشاشة بسبب أن معظم نماذج الذكاء الاصطناعي مدربة على محتوى إنجليزي. وعندما تعمل هذه النماذج بالعربية، تزداد احتمالية الخطأ بشكل كبير. على سبيل المثال، يمكن لطالب أن يحصل على مراجع مخترعة بأسماء عربية مقنعة، أو مريض يتلقى تشخيصاً طبياً يبدو دقيقاً لكنه في الواقع ملفق. كما أن المحامي الذي يعتمد على الذكاء الاصطناعي قد يقدم حكماً لا وجود له في أي سجل قانوني.
هذه الهشاشة لم تُناقَش بعد بجدية كافية، مما يثير تساؤلات حول مدى موثوقية هذه الأنظمة في اتخاذ القرارات الحياتية.
السياق والخلفية
الذكاء الاصطناعي اليوم هو أداة في طور النضج، ولا ينبغي إلغاءه أو منح مفاتيح البيت له. تشير الدراسات إلى أن أفضل النماذج قد خفضت معدل الهلوسة من 21% عام 2021 إلى أقل من 1% في مهام معينة، مما يدل على تقدم حقيقي في هذا المجال.
لكن السؤال الأهم ليس عن مدى كذب الآلة، بل عن كيفية تأثير الأكاذيب المتراكمة التي تُعتبر حقائق، وكيف تتعلمها نماذج أذكى وتعيد إنتاجها بثقة أكبر.
التداعيات والتأثير
تتطلب هذه الظاهرة اهتماماً خاصاً من قبل صانعي السياسات والمستخدمين على حد سواء. إن عدم الوعي بالمخاطر المحتملة قد يؤدي إلى اتخاذ قرارات خاطئة تؤثر على الصحة والمال والقضايا القانونية.
من المهم أن نطرح السؤال: من يملك الإجابة اليوم؟ ومن يفكر في ذلك؟ حتى الآن، لا يبدو أن هناك إجابات واضحة أو حلولاً مقترحة.
الأثر على المنطقة العربية
في العالم العربي، حيث تتزايد الاعتماد على التكنولوجيا، يجب أن يكون هناك وعي أكبر بمخاطر استخدام الذكاء الاصطناعي. من الضروري أن يتم تدريب النماذج بشكل أفضل على اللغة والثقافة العربية لتقليل الأخطاء.
ختاماً، يجب أن نكون حذرين في استخدام هذه التكنولوجيا، وأن نبحث عن طرق لضمان دقتها وموثوقيتها قبل الاعتماد عليها في اتخاذ القرارات الهامة.