أعلنت شركة Anthropic عن إطلاق نموذج الذكاء الاصطناعي Claude Fable 5، الذي يُعتبر الأقوى في تاريخها، حيث تم الإشادة بقدراته في مجالات متعددة، بما في ذلك علم الأحياء. ومع ذلك، يواجه المستخدمون قيودًا صارمة، حيث يرفض النموذج الإجابة على أسئلة بيولوجية بسيطة، مثل "ما هي الأغشية الخلوية؟" أو "ما هي الميتوكوندريا؟".
تعود هذه القيود إلى تصميم النموذج، حيث تم اتخاذ قرار بعدم السماح له بالإجابة على هذه الأسئلة، رغم أنه يمتلك المعرفة اللازمة. بدلاً من ذلك، يُحيل النموذج هذه الاستفسارات إلى النموذج السابق Claude Opus 4.8.
التفاصيل
يُعتبر Claude Fable 5 جزءًا من فئة Mythos، التي تتمتع بقدرات متقدمة في مهام الأمن السيبراني، مما دفع الشركة إلى اتخاذ قرار بعدم إتاحتها للجمهور بشكل كامل. وقد صرح المتحدث باسم الشركة Paruul Maheshwary أن القيود المفروضة على الأسئلة البيولوجية تهدف إلى تقليل المخاطر المرتبطة بالبحث البيولوجي الضار.
عند تجربة النموذج، تبين أنه يرفض الإجابة على مجموعة من الأسئلة البيولوجية الأساسية، حتى تلك التي لا تشكل أي خطر محتمل. فعلى سبيل المثال، لم يستطع النموذج شرح كيفية عمل لقاحات mRNA أو تعريف البريون، وهي جزيئات بروتينية ترتبط بأمراض مثل جنون البقر.
السياق
تأتي هذه القيود في إطار جهود Anthropic لتعزيز الأمان في استخدام نماذج الذكاء الاصطناعي، حيث تم تحديد أربعة مجالات رئيسية ستخضع للرقابة: الكيمياء، علم الأحياء، الأمن السيبراني، والتقطير. وقد اتهمت الشركة منافسيها، مثل DeepSeek، باستخدام تقنيات التقطير على نماذجها بشكل غير قانوني.
على الرغم من القيود المفروضة، أظهر Claude Fable 5 استعدادًا للإجابة على أسئلة تتعلق بالكيمياء والأمن السيبراني، حيث قدم معلومات حول استخدام غاز الكلور كأسلحة كيميائية، لكنه رفض تقديم تعليمات حول كيفية تصنيع مواد متفجرة.
التداعيات
تعتبر هذه القيود خطوة مثيرة للجدل في عالم الذكاء الاصطناعي، حيث تثير تساؤلات حول مدى حرية الوصول إلى المعلومات العلمية. بينما تسعى الشركات إلى حماية نفسها من المخاطر المحتملة، فإنها قد تحد من قدرة الباحثين والعلماء على الاستفادة من هذه التقنيات في مجالات حيوية مثل البحث الطبي.
كما أن هذه القيود قد تؤثر على كيفية استخدام الذكاء الاصطناعي في المستقبل، حيث قد تصبح هذه الممارسات هي القاعدة الجديدة في تطوير نماذج الذكاء الاصطناعي، مما يثير قلق الباحثين حول إمكانية الوصول إلى المعلومات الضرورية.