Itinanggi ng kompanya ng Anthropic sa isang legal na argumento noong Biyernes na wala silang kakayahang hadlangan ang kanilang generative AI model na "Claude" matapos itong patakbuhin ng US Army. Ang mga pahayag na ito ay tugon sa mga akusasyon mula sa nakaraang administrasyon ni Trump na maaaring makialam ang kompanya sa kanilang mga tools sa panahon ng digmaan.
Ayon kay Thiyagu Ramasamy, ang pangulo ng public services sector ng Anthropic, sinabi niya na ang kompanya "hindi kailanman nagkaroon ng kakayahang patigilin si Claude sa pagtatrabaho o baguhin ang mga function nito o hadlangan ang access dito o makaapekto sa paraan ng operasyon militar." Dagdag pa niya, ang Anthropic "ay walang kapangyarihan upang hadlangan ang teknolohiya o baguhin ang pag-uugali ng modelo bago o sa panahon ng mga takdang operasyon."
Mga Pagkakaiba Sa Pagitan ng US Defense at Anthropic
Humahaba ang alitan sa pagitan ng US Department of Defense at Anthropic lab sa loob ng ilang buwan patungkol sa kung paano nagagamit ang teknolohiya ng kompanya para sa pambansang seguridad at ang mga hangganan na dapat ihandog para sa ganitong paggamit. Sa buwang ito, inilarawan ni Secretary of Defense Pete Hegseth ang Anthropic bilang isang panganib sa supply chain, na nagresulta sa pagbabawal ng departamento na gamitin ang software ng kompanya, maging sa pamamagitan ng mga kontratista, sa mga darating na buwan, na nag-udyok sa ibang ahensya ng gobyerno na umatras mula sa paggamit kay Claude.
Sa pagtugon, nagsampa ang kompanya ng dalawang kaso upang hamunin ang konstitusyonalidad ng pagbabawal at humingi ng emergent order upang baligtarin ang desisyon. Gayunpaman, ilan sa mga kliyente ay sinimulan na ang pag-alis ng kanilang mga kontrata. Isang pagdinig sa isa sa mga kaso ay naka-schedule sa ika-24 ng Marso sa harap ng federal district court sa San Francisco, at ang hukom ay maaaring maglabas ng temporary na desisyon sa lalong madaling panahon.
Mga Tungkulin ng Departamentong Panggugol
Sumulat ang mga abogado ng gobyerno sa isang naunang argumento ngayong linggo na ang Department of Defense "hindi dapat magkaroon ng panganib na ilagay ang mga kritikal na sistemang militar sa peligro sa mga kritikal na sandali ng pambansang depensa at patuloy na operasyon militar." Sa kanilang bahagi, ginagamit ng Department of Defense si Claude upang suriin ang data at sumulat ng mga memorandum at tumulong sa pagbuo ng mga battle plans, ayon sa isang ulat mula sa WIRED.
Nakikita ng mga kalaban ng Anthropic na ang kompanya ay maaaring makapigil sa kasalukuyang mga operasyon sa militar sa pamamagitan ng paghadlang sa access kay Claude o pag-push ng mga mapanganib na update kung hindi sila sumasang-ayon sa ilang mga paggamit. Itinanggi ito ni Ramasamy, na nagbigay-diin na "hindi nag-iimbak ang Anthropic ng anumang backdoor o remote shutoff key," at na "hindi maaaring makapasok ang mga empleyado ng Anthropic, halimbawa, sa isang sistema ng Departamento ng Digma para baguhin o hadlangan ang mga modelo sa panahon ng operasyon; ang teknolohiya ay simpleng di gumagana sa ganitong paraan."
Pagsasagawa at mga Tungkulin ng Anthropic
Ipinaliwanag ni Ramasamy na ang anumang mga update na maaaring ibigay ng Anthropic ay kakailanganin ang pahintulot ng gobyerno at cloud provider, sa kasong ito ang Amazon Web Services, na tumutukoy na hindi maabot ng kompanya ang mga routers o data na ipinasok ng mga militar na gumagamit kay Claude.
Sa kanilang mga argumento sa korte, iginiit ng pamunuan ng Anthropic na hindi sila naglalayon ang bigyan ang kanilang sarili ng kapangyarihan na vete ang mga desisyon sa taktikal na militar. Ayon kay Sarah Heck, ang pinuno ng policies ng kompanya, sa isang argumento noong Biyernes, inilahad ng Anthropic ang pagbibigay ng isang garantiya sa kontratang isinagawa noong ika-4 ng Marso na tahasang nagsasaad na wala silang karapatan na kontrolin ang anumang desisyon sa legal operasyon ng Department of War. Sinabi rin niya na handa ang kompanya na tanggapin ang mga pormulasyon na nasasalungat ang kanilang mga pag-aalala tungkol sa paggamit kay Claude sa pagsasagawa ng lethal strikes nang walang human oversight, ngunit sa huli ay nabigo ang mga negosasyon.
Mga Hakbang ng Department of Defense
Sa kanilang mga argumento, sinabi ng Department of Defense na sila ay kumikilos ng karagdagang hakbang upang mabawasan ang panganib sa supply chain sa pamamagitan ng "pagtutulungan sa third-party cloud providers upang masiguradong walang kakayahang magsagawa ng unilateral changes" ang mga lider ng Anthropic sa mga kasalukuyang system ni Claude.
Sa kabuuan, ang sitwasyong ito ay nagpapakita ng maraming hamon hindi lamang para sa industriya ng teknolohiya kundi pati na rin sa mga usaping legal at pambansang seguridad, na nagiging mas kritikal sa panibagong dekada ng pagsulong ng AI.