Anthropy mengumumkan dalam hujah mahkamah pada hari Jumaat bahawa ia tidak mempunyai kemampuan untuk menghentikan model generatif kecerdasan buatan "Claude" selepas ia dioperasikan oleh tentera Amerika. Kenyataan syarikat itu adalah sebagai respon kepada tuduhan dari pihak pentadbiran Trump sebelumnya yang menyatakan bahawa mereka mungkin mengganggu alat mereka semasa keadaan perang.
Thiyagu Ramasamy, ketua sektor perkhidmatan awam di Anthropy, menyatakan bahawa syarikat "tidak pernah memiliki kemampuan untuk menghentikan Claude dari berfungsi atau mengubah fungsinya, memotong akses, atau mempengaruhi operasi ketenteraan dengan cara lain." Dia juga menambah bahawa Anthropy "tidak mempunyai kuasa untuk menghentikan teknologi atau mengubah tingkah laku model sebelum atau semasa operasi sedang berlangsung."
Ketegangan Antara Kementerian Pertahanan dan Anthropy
Ketidakpuasan di antara Kementerian Pertahanan Amerika Syarikat dan makmal Anthropy semakin meningkat selama beberapa bulan mengenai cara penggunaan teknologi syarikat untuk tujuan keselamatan negara dan batasan yang perlu dikenakan terhadap penggunaan ini. Bulan ini, Menteri Pertahanan Pete Hegseth menyatakan bahawa Anthropy merupakan risiko kepada rantai bekalan, satu penilaian yang menyekat kementerian dari menggunakan perisian syarikat tersebut, termasuk melalui kontraktor, dalam beberapa bulan akan datang, mengakibatkan beberapa pihak kerajaan lain menarik diri dari penggunaan Claude.
Syarikat itu membalas dengan mengemukakan dua tuntutan mahkamah untuk mencabar kesahan larangan tersebut dan memohon perintah kecemasan untuk membatalkannya. Namun, beberapa pelanggan telah mula membatalkan kontrak. Pendengaran untuk salah satu kes dijadualkan berlangsung pada 24 Mac di hadapan Mahkamah Daerah Persekutuan di San Francisco, di mana hakim dijadualkan untuk mengeluarkan keputusan sementara tidak lama lagi.
Pandangan dan Refleksi Syarikat
Peguam kerajaan dalam hujah yang dibuat awal minggu ini menyatakan bahawa Kementerian Pertahanan "tidak diwajibkan untuk mengambil risiko mendedahkan sistem ketenteraan yang penting dalam saat-saat kritikal bagi pertahanan negara dan operasi ketenteraan yang aktif." Kementerian itu menggunakan Claude untuk menganalisis data, menulis nota, dan membantu merumuskan pelan pertempuran, menurut laporan oleh majalah WIRED.
Pesaing Anthropy berpendapat bahawa syarikat tersebut boleh mengganggu operasi ketenteraan yang sedang berlangsung dengan menghentikan akses ke Claude atau memberikan kemas kini yang berbahaya jika ia tidak bersetuju dengan beberapa penggunaan. Namun, Ramasamy menafikan kemungkinan ini dengan memastikan bahawa "Anthropy tidak mempunyai pintu belakang atau kunci untuk menghentikan secara jauh," dan bahawa pekerja Anthropy "tidak boleh, contohnya, log masuk ke dalam sistem yang dimiliki Kementerian Pertahanan untuk mengubah atau menghentikan model semasa proses; teknologi ini tidak berfungsi dengan cara itu."
Risiko dan Langkah Keselamatan
Ramasamy menjelaskan bahawa sebarang kemas kini yang boleh diberikan oleh Anthropy akan dilakukan dengan persetujuan kerajaan dan penyedia awan, dalam kes ini, perkhidmatan awan Amazon (Amazon Web Services), dengan menekankan bahawa syarikat tidak boleh mengakses laluan atau data yang dimasukkan oleh pengguna tentera dalam Claude.
Dalam hujahnya di hadapan mahkamah, pihak pengurusan Anthropy menekankan bahawa mereka tidak berusaha untuk memberikan diri mereka kuasa veto ke atas keputusan taktikal ketenteraan. Sarah Heck, ketua dasar di syarikat tersebut, dalam hujah hari Jumaat menyatakan bahawa Anthropy telah menawarkan untuk menyertakan jaminan dalam kontrak yang dikemukakan pada 4 Mac yang secara jelas menyatakan bahawa mereka tidak mempunyai hak untuk mengawal atau memveto keputusan operasi yang sah Kementerian Pertahanan. Dia juga menyebut bahawa syarikat itu bersedia untuk menerima penggubalan yang menangani kebimbangan mereka mengenai penggunaan Claude dalam melaksanakan serangan maut tanpa pengawasan manusia, tetapi rundingan akhirnya gagal.
Langkah-Langkah Kementerian Pertahanan
Kementerian Pertahanan dalam hujahnya menyatakan bahawa mereka mengambil langkah tambahan untuk mengurangkan risiko rantaian bekalan dengan "bekerja dengan penyedia perkhidmatan awan pihak ketiga untuk memastikan bahawa pihak pengurusan Anthropy tidak dapat melakukan perubahan secara sepihak" pada sistem Claude yang ada pada masa ini.
Akhir kata, pihak Kementerian Pertahanan dan Anthropy sedang terlibat dalam perdebatan yang berterusan berkaitan keselamatan teknologi, dengan implikasi besar untuk operasi ketenteraan masa depan.