La empresa Antrópi declaró en una audiencia judicial el viernes que no tiene la capacidad de desactivar su modelo generativo de inteligencia artificial 'Claude' después de que el ejército estadounidense lo activara. Las declaraciones de la compañía fueron una respuesta a acusaciones de su anterior administración bajo Trump, que sugerían que podría interferir con sus herramientas durante situaciones de guerra.
Thiyagu Ramasamy, jefe del sector de servicios públicos de Antrópi, afirmó que la empresa "nunca ha tenido la capacidad de hacer que Claude deje de funcionar, modificar sus funciones, cortar el acceso o influir de otra manera en las operaciones militares". Añadió que Antrópi "no tiene la autoridad para desactivar la tecnología o cambiar el comportamiento del modelo antes o durante las operaciones en curso".
Conflictos entre el Departamento de Defensa y Antrópi
Las tensiones entre el Departamento de Defensa de EE. UU. y el laboratorio Antrópi han ido en aumento durante meses sobre cómo se deben utilizar las tecnologías de la empresa para fines de seguridad nacional y los límites que deben regir este uso. Este mes, el secretario de Defensa, Pete Hegseth, describió a Antrópi como un riesgo para la cadena de suministro, una clasificación que impide al departamento utilizar el software de la empresa, incluso a través de contratistas, durante los próximos meses, lo que ha llevado a otras entidades gubernamentales a retroceder en el uso de Claude.
La empresa respondió presentando dos demandas para impugnar la constitucionalidad de la prohibición y solicitó una orden de emergencia para revertir la decisión. Sin embargo, algunos clientes ya han comenzado a cancelar contratos. Se programó una audiencia en uno de los casos para el 24 de marzo ante el tribunal de distrito federal en San Francisco, y el juez podría emitir una decisión de reversión temporal pronto.
Declaraciones del gobierno y uso de Claude
Los abogados del gobierno escribieron en una presentación anterior esta semana que el Departamento de Defensa "no está obligado a asumir el riesgo de poner en peligro sistemas militares vitales en momentos críticos para la defensa nacional y operaciones militares activas". Por su parte, el Departamento de Defensa utiliza Claude para analizar datos, redactar memorandos y ayudar en la generación de planes de combate, según un informe de la revista WIRED.
Los opositores a Antrópi argumentan que la empresa podría obstaculizar las operaciones militares en curso al detener el acceso a Claude o enviar actualizaciones dañinas si no están de acuerdo con ciertos usos. Ramasamy negó esta posibilidad, afirmando que "Antrópi no mantiene ninguna puerta trasera o llave de apagado remoto", y que los empleados de Antrópi "no pueden, por ejemplo, iniciar sesión en un sistema del Departamento de Defensa para modificar o desactivar los modelos durante una operación; la tecnología simplemente no funciona de esa manera".
Actualizaciones y control de la tecnología
Ramasamy explicó que cualquier actualización que Antrópi pueda proporcionar sería con la aprobación del gobierno y del proveedor de la nube, en este caso, Amazon Web Services, señalando que la empresa no puede acceder a los enrutadores o datos que ingresan los usuarios militares en Claude.
En sus alegaciones ante el tribunal, la dirección de Antrópi enfatizó que no busca otorgarse el derecho de veto sobre las decisiones tácticas militares. Sarah Heck, jefa de políticas de la empresa, mencionó en una presentación el viernes que Antrópi ofreció incluir una garantía en el contrato presentado el 4 de marzo que establece explícitamente que no posee ningún derecho para controlar o vetar las decisiones operativas legales del Departamento de Defensa. También indicó que la empresa estaba dispuesta a aceptar redacciones que abordaran sus preocupaciones sobre el uso de Claude en la ejecución de ataques letales sin supervisión humana, pero las negociaciones finalmente fracasaron.
Medidas del Departamento de Defensa
Por su parte, el Departamento de Defensa, en sus alegaciones, indicó que está tomando medidas adicionales para mitigar el riesgo de la cadena de suministro al "trabajar con proveedores de servicios en la nube de terceros para garantizar que los líderes de Antrópi no puedan realizar cambios unilaterales" en los sistemas de Claude que actualmente existen.
La situación entre Antrópi y el Departamento de Defensa destaca la creciente preocupación sobre el uso de la inteligencia artificial en contextos militares y la necesidad de establecer límites claros en su aplicación.