اقترحت شركة أنثروبيك، التي تتخذ من سان فرانسيسكو مقرًا لها، فرض وقف عالمي لتطوير أنظمة الذكاء الاصطناعي الأكثر قوة، مشيرةً إلى أن النماذج الحديثة بدأت تُظهر علامات على إمكانية تجاوزها للسيطرة البشرية. جاء هذا الاقتراح في تقرير نشرته الشركة، حيث اعتبرت أن تباطؤ التطوير في هذا المجال قد يكون "أمرًا جيدًا" للعالم.
وأفادت أنثروبيك بأن التوقف المؤقت عن تطوير أنظمة الذكاء الاصطناعي المتقدمة سيساعد على تمكين الهياكل الاجتماعية والبحوث المتعلقة بالتوافق مع تقدم التكنولوجيا. ومع ذلك، حذرت الشركة من أن توقف شركة واحدة فقط لن يكون كافيًا، حيث سيتسابق المنافسون للاستمرار في تطوير هذه الأنظمة.
التفاصيل
أوضحت أنثروبيك أنه لتحقيق توقف فعلي، يجب أن تتفق عدة شركات كبرى في عدة دول، وخاصة الولايات المتحدة والصين، على التوقف في نفس الوقت، تحت قواعد يمكن التحقق منها. وأشارت إلى أن عدم وجود آلية تنسيق عالمية سيجعل الشركات والحكومات تواجه قرارات صعبة بشأن السلامة في ظل الضغوط التنافسية والجيوسياسية.
تواجه الشركة مقاومة من بعض الجهات في الصناعة، بما في ذلك مسؤولين في البيت الأبيض، الذين يرون أن التركيز على السيناريوهات الأسوأ يبالغ في تقدير المخاطر ويعتبر استراتيجية لإبطاء المنافسين تحت غطاء مخاوف السلامة. ومع ذلك، اعترف البيت الأبيض بقوة نموذج "ميثوس" الخاص بأنثروبيك، الذي لم يُتاح للجمهور بسبب قدراته في مجال الأمن السيبراني.
السياق
تأتي هذه الدعوة في وقت حساس حيث تتسارع وتيرة تطوير الذكاء الاصطناعي، مما يثير مخاوف بشأن تأثيره على المجتمع. تاريخيًا، شهد العالم تطورات سريعة في هذا المجال، مما أدى إلى ظهور أسئلة حول الأخلاقيات والسلامة. مقارنةً بالتحكم في الأسلحة النووية، أكدت أنثروبيك أن السيطرة على الذكاء الاصطناعي ستكون أكثر تعقيدًا، حيث أن تدريب الذكاء الاصطناعي أسهل بكثير من إخفاء صومعة صواريخ.
تخطط الشركة لجمع المسؤولين الحكوميين والعلماء ومجموعات المناصرة وشركات الذكاء الاصطناعي المتنافسة في الأشهر المقبلة لاستكشاف كيفية عمل مثل هذا النظام. تشير البيانات الداخلية إلى أن الذكاء الاصطناعي يسرع بالفعل من تطوير الذكاء الاصطناعي نفسه، مما يخلق حلقة تغذية راجعة قد تؤدي في النهاية إلى ما يسميه الباحثون "تحسين ذاتي متكرر".
التداعيات
تعتبر هذه الدعوة خطوة مهمة في مجال تطوير الذكاء الاصطناعي، حيث قد تؤدي إلى تغييرات كبيرة في كيفية تعامل الحكومات والشركات مع هذه التكنولوجيا. التحذيرات من "تحسين ذاتي متكرر" تشير إلى إمكانية أن يصبح نظام الذكاء الاصطناعي قادرًا على تعليم نفسه ليصبح أكثر ذكاءً دون الحاجة إلى مساعدة بشرية كبيرة. ورغم أن الشركة أكدت أننا لم نصل إلى هذه المرحلة بعد، إلا أن الأدلة تشير إلى أن دور الإنسان يتقلص في كل خطوة من خطوات عملية تطوير الذكاء الاصطناعي.