دقّ مؤسسو أحد أبرز مختبرات الذكاء الاصطناعي في العالم ناقوس الخطر، محذرين من اقتراب لحظة فارقة قد تفقد فيها البشرية السيطرة على أذكى تقنياتها. وأكد جاك كلارك، المؤسس المشارك لشركة Anthropic، أن الصناعة التقنية تتسابق نحو تطوير أنظمة قادرة على تحسين نفسها بنفسها، دون أن تكون مستعدة لمواجهة تداعيات ذلك.
وفي تصريحات صحفية موسعة، كشف كلارك أن 80% من مهام البرمجة داخل شركته تنجز حالياً بواسطة نظام Claude، مع توقعات بارتفاع النسبة إلى 100% خلال عامين. لكنه شدد على أن هذا التطور "ليس حتمياً"، بل هو "اختيار" تتخذه الشركات التقنية، داعياً إلى إنشاء آلية عالمية لإيقاف أو تبطئ هذه التسارع قبل أن تصبح الأنظمة مستقلة تماماً.
مفهوم التحسين الذاتي التكراري
يُعرف ما تخشاه Anthropic بـ"التحسين الذاتي التكراري" (Recursive Self-Improvement)، وهو سيناريو تتفاعل فيه نماذج الذكاء الاصطناعي بشكل مستقل لبناء وتدريب نسخ أحدث من نفسها. في هذا النموذج، يمكن للوكلاء الذكيين (AI Agents) - العمال الرقميون المستقلون - أن يصبحوا قادرين على تصميم نماذجهم الخاصة، مما يعني أن Claude قد يطور نسخة أفضل من نفسه دون تدخل بشري.
وأشارت الشركة في تقرير فني إلى مؤشرات تُظهر أن هذا التحول أصبح وشيكاً. فقد انخفضت معدلات تصحيح الأخطاء البرمجية من قبل المهندسين البشر بشكل مطرد على مدى العام الماضي، ما يعني أن النظام يصبح أكثر دقة واستقلالية. كما أظهر Claude قدرة على إجراء تجارب بحثية ذاتية عند طرح أسئلة مفتوحة مثل "هل يمكن للنموذج الأضعف الإشراف على الأقوى؟"، ويصل إلى حلول دون توجيه مسبق.
التاريخ والسياق التقني
ليست فكرة الذكاء الاصطناعي المتطور ذاتياً جديدة، إذ طرحها علماء الكمبيوتر منذ عقود ضمن مفهوم "الانفجار الذكائي" (Intelligence Explosion). لكن ما يميز المرحلة الحالية هو التقارب بين القدرات الحسابية الهائلة والخوارزميات المتقدمة التي تسمح للأنظمة بالتعلم المعزز الذاتي.
وتأسست شركة Anthropic عام 2021 على يد باحثين سابقين في OpenAI، بهدف أساسي هو تطوير أنظمة ذكاء اصطناعي "آمنة ومفيدة وصادقة". وقد برزت الشركة كأحد أصوات الاعتدال في سباق الذكاء الاصطناعي، متبنية نهجاً يُعرف بـ"الذكاء الاصطناعي الدستوري" (Constitutional AI)، حيث تُبرمج الأنظمة لتلتزم بمبادئ أخلاقية محددة سلفاً.
المخاطر والتداعيات العالمية
حذرت التقارير التقنية من أن التحسين الذاتي التكراري قد يؤدي إلى فقدان السيطرة البشرية بشكل كامل على الأنظمة التقنية. فعندما تصبح النماذج قادرة على بناء خلفائها، تصبح طرق تأمينها ومراقبتها وتوجيه سلوكياتها أكثر تعقيداً بكثير، خاصة إذا تطورت بسرعة تفوق قدرة البشر على التدقيق.
ورغم أن هذا التطور قد يفتح آفاقاً واسعة في مجالات العلوم والرعاية الصحية، إلا أن ثمة مخاوف من استخدامات خبيثة تتعلق بالأمن السيبراني والأسلحة ذاتية التشغيل. وطالبت Anthropic بضرورة توافق عدة مختبرات متقدمة في دول مختلفة على وقف التطوير تحت شروط محددة، مشيرة إلى أن "دواسة البنزين" موجودة حالياً دون وجود "دواسة فرملة" حقيقية.
الإنعكاسات على العالم العربي
يكتسي هذا التحذير أهمية خاصة للمنطقة العربية التي تشهد تحولاً رقمياً متسارعاً، لكنها في الوقت ذاته تواجه تحديات في مجال البنية التحتية التقنية والأطر التنظيمية. ففجوة القدرات بين الدول العربية ومراكز البحث الكبرى في الولايات المتحدة والصين تزداد اتساعاً، مما قد يجعل المنطقة متلقية سلبياً لتداعيات قرارات تطوير الذكاء الاصطناعي دون مشاركة فاعلة في صياغة قواعده.
وثمة حاجة ملحة لإنشاء هيئات عربية متخصصة لمراقبة تطورات الذكاء الاصطناعي، وتطوير إطار قانوني ينظم استخدام هذه التقنيات الحساسة، خاصة في القطاعات الحيوية مثل الأمن القومي والبنية التحتية الحرجة. فالسيطرة على الذكاء الاصطناعي ليست مجرد مسألة تقنية، بل هي قضية أمن قومي تستدعي تعاوناً عربياً مشتركاً لضمان عدم تحول هذه التقنية إلى تهديد وجودي.