안트로피는 금요일 법원에서 자사의 생성형 인공지능 모델인 클로드를 미국 군대가 작동시킨 후 비활성화할 수 있는 능력이 없다고 밝혔다. 이 회사의 발언은 트럼프 행정부의 이전 관리들이 전쟁 상황에서 도구를 조작할 수 있다는 비난에 대한 반박으로 나왔다.
티아구 라마사미 (Thiyagu Ramasamy) 안트로피 공공 서비스 부문 책임자는 "우리는 클로드를 중단시키거나 기능을 변경하거나 접근을 차단할 수 있는 능력이 없었다"고 말했다. 그는 또한 안트로피가 "작전 중 기술을 비활성화하거나 모델의 행동을 변경할 권한이 없다"고 덧붙였다.
미국 국방부와의 갈등 심화
안트로피와 미국 국방부 간의 갈등은 몇 달 동안 고조되고 있으며, 이 갈등은 회사의 기술이 국가 안보를 위해 어떻게 사용될 것인지와 그 사용을 규제할 경계에 대한 논의에서 비롯된다. 이번 달, 피트 헤그세스 (Pete Hegseth) 국방부 장관은 안트로피를 공급망 위험으로 간주하며, 이로 인해 국방부는 향후 몇 달 동안 계약업체를 통해서도 이 회사의 소프트웨어를 사용할 수 없게 되었다. 이로 인해 다른 정부 기관들도 클로드 사용을 중단하게 되었다.
안트로피는 이와 관련하여 두 건의 소송을 제기하여 금지 조치의 헌법성을 문제 삼고, 해당 결정을 뒤집기 위한 긴급 명령을 요청했다. 그러나 일부 고객들은 이미 계약을 취소하기 시작했다. 한 사건에 대한 청문회는 3월 24일 샌프란시스코 연방 지방법원에서 열릴 예정이며, 판사는 곧 임시 결정을 내릴 수 있다.
국방부의 입장
정부 변호사들은 이번 주 초 법원에서 제출한 서류에서 국방부가 "국가 방어와 군사 작전의 중대한 순간에 군사 시스템을 위험에 빠뜨릴 위험을 감수할 필요가 없다"고 주장했다. 국방부는 클로드를 데이터 분석, 메모 작성 및 전투 계획 생성에 사용하고 있다고 WIRED 잡지가 보도했다.
안트로피의 반대자들은 이 회사가 클로드에 대한 접근을 차단하거나 해로운 업데이트를 강제할 수 있다고 주장하고 있다. 그러나 라마사미는 이러한 가능성을 부인하며 "안트로피는 어떤 뒷문이나 원격 중지 키를 보유하고 있지 않다"고 강조했다. 그는 또한 안트로피 직원들이 예를 들어 전쟁부 시스템에 로그인하여 모델을 수정하거나 비활성화할 수 없다고 말했다. 기술이 그렇게 작동하지 않는다고 설명했다.
안트로피의 기술적 제한
라마사미는 안트로피가 제공할 수 있는 모든 업데이트는 정부와 클라우드 제공업체, 이 경우 아마존 웹 서비스의 승인을 받아야 한다고 설명했다. 그는 또한 회사가 클로드에 입력된 군사용 데이터나 라우터에 접근할 수 없다고 언급했다.
안트로피는 법원에서의 주장에서 군사 작전의 전술적 결정에 대한 거부권을 부여받으려 하지 않는다고 밝혔다. 사라 헥 (Sarah Heck) 정책 책임자는 금요일 법원에서 안트로피가 3월 4일에 제출한 계약서에 명시적으로 군사 작전의 법적 결정에 대한 통제권이나 거부권을 갖지 않는다는 보증을 포함할 것을 제안했다고 말했다. 그녀는 또한 회사가 클로드를 인간의 감독 없이 치명적인 공격을 수행하는 데 사용하는 것에 대한 우려를 해결하는 조항을 수용할 준비가 되어 있었지만, 협상이 결국 실패했다고 덧붙였다.
국방부의 추가 조치
국방부는 법원에서의 주장에서 공급망 위험을 완화하기 위해 추가 조치를 취하고 있으며, "제3자 클라우드 서비스 제공업체와 협력하여 안트로피의 경영진이 현재 존재하는 클로드 시스템에 대해 일방적인 변경을 할 수 없도록 보장하고 있다"고 밝혔다.
이번 사건은 안트로피와 국방부 간의 갈등이 계속되는 가운데, 기술의 사용과 그에 따른 책임에 대한 중요한 논의를 촉발하고 있다.