أعلنت شركة ThroughLine، التي تم تكليفها من قبل OpenAI وAnthropic وGoogle، عن تطوير أداة جديدة تهدف إلى توجيه المستخدمين الذين يظهرون ميولاً متطرفة على منصة ChatGPT إلى دعم إنساني ورقمي لمكافحة التطرف. تأتي هذه المبادرة في نيوزيلندا، حيث تسعى إلى معالجة المخاوف المتزايدة بشأن سلامة المستخدمين في ظل تزايد الدعاوى القضائية ضد شركات الذكاء الاصطناعي.
تتضمن الأداة الجديدة توجيه الأشخاص الذين يتم تحديدهم كمحتملين لمخاطر التطرف إلى خدمات دعم متخصصة، سواء كانت بشرية أو عبر الدردشة. وقد صرح إيليوت تايلور، مؤسس ThroughLine، بأن الشركة تجري محادثات مع مبادرة The Christchurch Call، التي تهدف إلى القضاء على الكراهية عبر الإنترنت، لتقديم الإرشادات اللازمة أثناء تطوير الأداة.
تفاصيل الحدث
تسعى الأداة الجديدة إلى توفير نموذج هجين يجمع بين الدردشة الآلية المدربة للتفاعل مع الأشخاص الذين يظهرون علامات التطرف، بالإضافة إلى إحالتهم إلى خدمات الصحة النفسية المتاحة في العالم الحقيقي. وأشار تايلور إلى أن الشركة تعمل مع خبراء مختصين لضمان فعالية الأداة، حيث يتم حالياً اختبار التكنولوجيا دون تحديد موعد للإطلاق.
تأتي هذه الخطوة في وقت حساس، حيث تعرضت OpenAI لتهديدات من الحكومة الكندية بعد أن تم الكشف عن أن شخصاً نفذ عملية إطلاق نار في مدرسة قد تم حظره من المنصة دون إبلاغ السلطات. هذا يعكس الضغوط المتزايدة على شركات الذكاء الاصطناعي لضمان سلامة مستخدميها.
السياق والخلفية
تأسست ThroughLine لتكون بمثابة شبكة دعم عالمية تضم 1600 خط مساعدة في 180 دولة. وقد أظهرت الدراسات أن تزايد استخدام روبوتات الدردشة قد أدى إلى زيادة في الكشف عن مشاكل الصحة النفسية، بما في ذلك الميل إلى التطرف. ومع تزايد المخاوف من استخدام الذكاء الاصطناعي في تعزيز العنف، تسعى الشركات إلى تطوير أدوات فعالة لمواجهة هذه التحديات.
تعتبر هذه المبادرة جزءاً من جهود أوسع لمكافحة التطرف عبر الإنترنت، حيث تسعى الحكومات والشركات إلى إيجاد حلول فعالة للتصدي لهذه الظاهرة المتزايدة. وقد أظهرت الدراسات أن الضغط على المنصات للتشديد على الاعتدال قد دفع بعض المتعاطفين مع التطرف إلى الانتقال إلى بدائل أقل تنظيمًا مثل Telegram.
التداعيات والتأثير
قد تؤثر الأداة الجديدة بشكل كبير على كيفية تعامل شركات الذكاء الاصطناعي مع المحتوى المتطرف. إذ أن نجاح هذه الأداة يعتمد على فعالية آليات المتابعة والهياكل التي توجه المستخدمين إليها. كما أن هناك مخاوف من أن الضغط على المنصات لإغلاق المحادثات الحساسة قد يؤدي إلى تفاقم الوضع بدلاً من تحسينه.
من المهم أن يتم تطوير هذه الأداة بعناية، حيث أن الأشخاص الذين يعانون من الأزمات النفسية يميلون إلى مشاركة معلومات حساسة عبر الإنترنت، مما يجعل من الضروري توفير دعم فعال دون إغلاق قنوات التواصل.
الأثر على المنطقة العربية
تعتبر هذه المبادرة ذات أهمية خاصة للمنطقة العربية، حيث تواجه العديد من الدول تحديات مماثلة في مكافحة التطرف. يمكن أن تستفيد الدول العربية من التجارب الدولية في هذا المجال لتطوير استراتيجيات فعالة لمواجهة التطرف وتعزيز السلامة العامة.
في ظل تزايد استخدام التكنولوجيا في حياتنا اليومية، يصبح من الضروري أن تكون هناك أدوات فعالة لمواجهة التحديات المرتبطة بالذكاء الاصطناعي، مما يساهم في تعزيز الأمان والسلامة في المجتمعات العربية.