Antrophy heeft in een rechtszaak op vrijdag bevestigd dat het niet de capaciteit heeft om zijn generatieve AI-model 'Claude' uit te schakelen nadat het door het Amerikaanse leger is ingezet. De verklaringen van het bedrijf kwamen als reactie op beschuldigingen van de voormalige regering-Trump dat het zou kunnen ingrijpen in zijn tools tijdens oorlogssituaties.
Thiyagu Ramasamy, hoofd van de publieke sector bij Antrophy, zei dat het bedrijf "ooit de mogelijkheid heeft ontbroken om Claude te stoppen of zijn functies te wijzigen, toegang te blokkeren of op andere manieren invloed uit te oefenen op militaire operaties." Hij voegde eraan toe dat Antrophy "geen bevoegdheden heeft om de technologie uit te schakelen of het gedrag van het model te veranderen vóór of tijdens de lopende operaties."
Meningsverschillen tussen ministerie van Defensie en Antrophy
De geschillen tussen het Amerikaanse ministerie van Defensie en het Antrophy-laboratorium zijn maandenlang aan het toenemen over de manier waarop de technologieën van het bedrijf kunnen worden gebruikt voor nationale veiligheidsdoeleinden en de grenzen die deze gebruiken moeten bepalen. Deze maand beschreef minister van Defensie Pete Hegseth Antrophy als een risico voor de toeleveringsketen, een classificatie die het ministerie verbiedt om de software van het bedrijf te gebruiken, ook via aannemers, in de komende maanden, waardoor andere overheidsinstanties zich hebben teruggetrokken van het gebruik van Claude.
Het bedrijf heeft gereageerd door twee rechtszaken aan te spannen om de grondwettelijkheid van het verbod aan te vechten en heeft om een spoedbevel gevraagd om het besluit terug te draaien. Desondanks zijn sommige klanten al begonnen met het annuleren van contracten. Een hoorzitting in een van de zaken is gepland op 24 maart voor de federale rechtbank in San Francisco, waar de rechter binnenkort mogelijk een voorlopig omgekeerd bevel zal uitvaardigen.
De standpunten van de overheid en de zorgen van Antrophy
In een eerdere deurbrief deze week schreven de advocaten van de overheid dat het ministerie van Defensie "niet verplicht is om het risico te lopen dat essentiële militaire systemen in gevaar komen op cruciale momenten voor nationale verdediging en actieve militaire operaties." Het ministerie van Defensie gebruikt Claude om data te analyseren, notities te schrijven en te helpen bij het genereren van strijdplannen, volgens een rapport van WIRED.
De tegenstanders van Antrophy geloven dat het bedrijf operaties zou kunnen verstoren door toegang tot Claude te blokkeren of schadelijke updates te pushen als het het niet eens is met bepaalde toepassingen. Ramasamy ontkende deze mogelijkheid en bevestigde dat "Antrophy geen achterdeuren of afstandsbediening heeft," en dat Antrophy-medewerkers "bijvoorbeeld niet kunnen inloggen op een ministerie van oorlogsysteem om modellen te wijzigen of uit te schakelen tijdens een operatie; de technologie werkt simpelweg niet zo."
Updates en samenwerking met overheid en cloudproviders
Ramasamy verduidelijkte dat eventuele updates die Antrophy zou kunnen aanbieden met goedkeuring van de overheid en de cloudprovider, in dit geval Amazon Web Services, zouden zijn, eraan toevoegend dat het bedrijf geen toegang heeft tot de routers of gegevens die militaire gebruikers in Claude invoeren.
In haar rechtszaken heeft het leiderschap van Antrophy bevestigd dat het niet probeert zichzelf het recht van veto over militaire tactische beslissingen te geven. Sarah Heck, hoofd beleidsvoering van het bedrijf, merkte in een pleidooi op vrijdag op dat Antrophy aanbood om een garantie op te nemen in het op 4 maart ingediende contract dat duidelijk vermelde dat het geen recht heeft om de operationele beslissingen van het ministerie van Oorlog te controleren of te verwerpen. Zij verklaarde ook dat het bedrijf bereid was om formuleringen te accepteren die haar zorgen over het gebruik van Claude bij het uitvoeren van dodelijke aanvallen zonder menselijke supervisie aanpakte, maar de onderhandelingen mislukten uiteindelijk.
Reactie van het ministerie van Defensie
Het ministerie van Defensie heeft in zijn rechtszaken verklaard dat het aanvullende maatregelen neemt om het risico van de toeleveringsketen te verlichten door "te werken met derde cloudserviceproviders om ervoor te zorgen dat de leiders van Antrophy geen eenzijdige wijzigingen kunnen aanbrengen" in de bestaande systemen van Claude.
Antrophy blijft in een moeilijke positie terwijl het zich aanpast aan de veranderingen en uitdagingen in de juridische en technische arena en blijft vechten voor zijn positie binnen de regering.