Compania Anthropic a afirmat într-o pledoarie judiciară vineri că nu are capacitatea de a suspenda modelul său generativ de inteligență artificială Claude după ce a fost activat de armata americană. Declarațiile companiei au venit ca răspuns la acuzațiile aduse de administrația anterioară Trump, care sugera că compania ar putea interveni asupra instrumentelor sale în timpul conflictelor armate.
Thiagu Ramasamy, directorul departamentului de servicii publice din Anthropic, a spus că compania „nu a avut niciodată capacitatea de a opri Claude sau de a schimba funcțiile sale, de a restricționa accesul sau de a influența în alte moduri operațiunile militare”. El a adăugat că Anthropic „nu are autoritatea de a suspenda tehnologia sau de a modifica comportamentul modelului înainte sau în timpul operațiunilor active”.
Conflictele cu Ministerul Apărării
Controversele dintre Ministerul Apărării al Statelor Unite și laboratorul Anthropic au escaladat în ultimele luni cu privire la modul în care tehnologiile companiei sunt utilizate în scopuri de securitate națională și limitele care ar trebui să guverneze această utilizare. În această lună, secretarul apărării Pete Hegseth a descris Anthropic ca un risc pentru lanțul de aprovizionare, un statut care împiedică ministerul de a utiliza software-ul companiei în următoarele luni, ceea ce a determinat alte agenții guvernamentale să renunțe la utilizarea Claude.
Compania a reacționat prin intentarea a două acțiuni legale pentru a contesta constituționalitatea interdicției și a solicitat o ordonanță de urgență pentru a suspenda decizia. Însă, unele entități au început deja să anuleze contractele. O audiere în una dintre cazuri este programată pentru 24 martie la tribunalul federal de district din San Francisco, iar judecătorul ar putea emite o decizie provizorie în curând.
Argumentele Ministerului Apărării
Avocații guvernului au scris într-o pledoarie anterioară în această săptămână că Ministerul Apărării „nu este obligat să își asume riscul de a compromite sisteme militare vitale în momente critice pentru apărarea națională și operațiunile militare active”. Ministerul Apărării utilizează Claude pentru analiza datelor, redactarea memoriilor și asistarea în generarea planurilor de luptă, conform unui raport al revistei WIRED.
Criticii Anthropic consideră că compania ar putea împiedica operațiunile militare prin restricționarea accesului la Claude sau prin a trimite actualizări dăunătoare dacă nu sunt de acord cu anumite utilizări. Ramasamy a negat această posibilitate, subliniind că „Anthropic nu deține nicio ușă de acces din spate sau cheie de oprire la distanță” și că angajații Anthropic „nu pot, de exemplu, să se conecteze la un sistem al Ministerului Apărării pentru a modifica sau a suspenda modelele în timpul unei operațiuni; tehnologia pur și simplu nu funcționează în acest mod”.
Clarificări și perspective asupra update-urilor
Ramasamy a explicat că orice actualizări pe care Anthropic le-ar putea oferi ar fi cu acordul guvernului și al furnizorului de cloud, în acest caz Amazon Web Services, menționând că compania nu poate accesa rutele sau datele introduse de utilizatorii militari în Claude.
În pledoariile sale în instanță, conducerea Anthropic a subliniat că nu intenționează să își acorde dreptul de veto asupra deciziilor tactice militare. Sarah Heck, șefa politicilor din companie, a declarat vineri că Anthropic a oferit să includă o garanție în contractul prezentat pe 4 martie care stipulează clar că nu deține niciun drept de a controla sau impune un veto asupra deciziilor legale de operare ale Ministerului Apărării. De asemenea, ea a spus că compania a fost dispusă să accepte formulări care să abordeze îngrijorările legate de utilizarea Claude în executarea loviturilor mortale fără supraveghere umană, dar negocierile au eșuat în cele din urmă.
Acțiuni suplimentare din partea Ministerului Apărării
Ministerul Apărării, în pledoariile sale, a declarat că ia măsuri suplimentare pentru a diminua riscurile lanțului de aprovizionare prin „colaborarea cu furnizorii de servicii cloud terță parte pentru a garanta că liderii Anthropic nu pot efectua modificări unilaterale” asupra sistemelor Claude existente.
În contextul acestor dezvoltări, este esențial să înțelegem implicațiile pe care le are această situație asupra relațiilor dintre tehnologiile avansate și utilizarea acestora în scopuri militare. De asemenea, întrebările fundamentale despre securitate și control se amplifică pe măsură ce colaborarea dintre sectorul tehnologic și cel militar devine din ce în ce mai complexă.