شرکت انثروبی در یک مرافعه قضایی روز جمعه اعلام کرد که هیچگونه توانایی برای تعطیل کردن مدل تولیدی هوش مصنوعی خود، «کلود» (Claude)، پس از فعال شدن آن توسط ارتش آمریکا ندارد. این اظهارات در واکنش به اتهامات قبلی از سوی مقامات دولت ترامپ مطرح شده است که ادعا میکردند این شرکت ممکن است در زمان جنگ با ابزارهای خود دست به تغییراتی بزند.
ثیاگو راماسامی (Thiyagu Ramasamy)، رئیس بخش خدمات عمومی در انثروبی، گفت که این شرکت هرگز توانایی متوقف کردن کارکرد کلود، تغییر عملکرد آن، قطع دسترسی به آن یا تأثیرگذاری بر عملیات نظامی را نداشته است. او افزود که انثروبی «هیچ اختیاری برای تعطیل کردن فناوری یا تغییر رفتار مدل قبل یا در حین عملیات جاری ندارد».
تعارضات بین انثروبی و وزارت دفاع آمریکا
تعارضات بین وزارت دفاع آمریکا و آزمایشگاه انثروبی در ماههای اخیر به شدت افزایش یافته است. این تعارضات حول نحوه استفاده از فناوریهای این شرکت برای مقاصد امنیت ملی و محدودیتهایی که باید بر این استفادهها حاکم باشد، میچرخد. در این ماه، وزیر دفاع، پیتر هیگست (Pete Hegseth)، انثروبی را به عنوان یک خطر برای زنجیره تأمین توصیف کرد، که این امر منجر به ممنوعیت موقت استفاده از نرمافزارهای این شرکت، حتی از طریق پیمانکاران، در ماههای آینده شد و دیگر نهادهای دولتی را نیز به عقبنشینی از استفاده از کلود وادار کرد.
در پاسخ، انثروبی دو دعوی قضایی برای چالش در مورد قانونگذاری این ممنوعیت مطرح کرد و درخواست کرد که حکمی فوری برای معکوس کردن این تصمیم صادر شود. با این حال، برخی از مشتریان دولتی در حال حاضر شروع به لغو قراردادها کردهاند. قرار است جلسهای در یکی از این دعاوی در تاریخ ۲۴ مارس در دادگاه منطقهای فدرال در سان فرانسیسکو برگزار شود و ممکن است قاضی به زودی حکمی موقت صادر کند.
موضع وزارت دفاع و نگرانیها
وکلای دولت در مرافعهای که اوایل این هفته مطرح شد، بیان کردند که وزارت دفاع «ملزم به تحمل خطر قرار دادن سیستمهای نظامی حیاتی در معرض خطر در لحظات حساس دفاع ملی و عملیات نظامی فعال نیست». از سوی دیگر، وزارت دفاع از کلود برای تحلیل دادهها، نوشتن یادداشتها و کمک به تولید برنامههای نبرد استفاده میکند، طبق گزارشی از مجله WIRED.
مخالفان انثروبی بر این باورند که این شرکت ممکن است عملیات نظامی جاری را با قطع دسترسی به کلود یا ارسال بهروزرسانیهای مضر در صورت اختلاف با برخی استفادهها مختل کند. راماسامی این احتمال را رد کرد و تأکید کرد که «انثروبی هیچ درب پشتی یا کلید خاموش از راه دور ندارد» و اینکه کارکنان انثروبی «نمیتوانند، به عنوان مثال، به یک سیستم وابسته به وزارت جنگ وارد شوند تا مدلها را در حین عملیات تغییر دهند یا تعطیل کنند؛ فناوری به سادگی به این صورت عمل نمیکند».
زمینه و بستر
راماسامی توضیح داد که هرگونه بهروزرسانی که انثروبی میتواند ارائه دهد، با موافقت دولت و تأمینکننده خدمات ابری، در این مورد خدمات وب آمازون (Amazon Web Services) خواهد بود و اشاره کرد که این شرکت نمیتواند به روترها یا دادههایی که کاربران نظامی در کلود وارد میکنند، دسترسی داشته باشد.
در مرافعات خود در دادگاه، رهبری انثروبی تأکید کرد که به دنبال اعطای حق وتو بر تصمیمات نظامی تاکتیکی نیست. سارا هک (Sarah Heck)، رئیس سیاستهای این شرکت، در مرافعه روز جمعه گفت که انثروبی پیشنهاد کرده است که تضمینی در قرارداد ارائه شده در ۴ مارس گنجانده شود که به صراحت بیان میکند که این شرکت هیچ حقی برای کنترل یا وتو بر تصمیمات عملیاتی قانونی وزارت جنگ ندارد. او همچنین گفت که این شرکت آماده بود تا پیشنویسهایی را بپذیرد که نگرانیهایش را در مورد استفاده از کلود برای اجرای حملات کشنده بدون نظارت انسانی برطرف کند، اما مذاکرات در نهایت شکست خورد.
اقدامات وزارت دفاع برای کاهش خطرات
از سوی دیگر، وزارت دفاع در مرافعات خود اعلام کرد که اقدامات اضافی برای کاهش خطر زنجیره تأمین از طریق «کار با تأمینکنندگان خدمات ابری شخص ثالث برای اطمینان از عدم توانایی رهبران انثروبی در ایجاد تغییرات یکجانبه» در سیستمهای کلود موجود در حال انجام است.
در نهایت، این موضوع نه تنها بر روابط بین انثروبی و وزارت دفاع تأثیر میگذارد، بلکه میتواند بر نحوه استفاده از فناوریهای هوش مصنوعی در عملیات نظامی نیز تأثیرگذار باشد.