Firma Antrópii w piątek w sprawie sądowej ogłosiła, że nie ma możliwości wyłączenia swojego generatywnego modelu sztucznej inteligencji "Claude" po jego uruchomieniu przez armię amerykańską. Oświadczenie to było odpowiedzią na oskarżenia, które wysunęła poprzednia administracja Trumpa, sugerując, że mogłaby ingerować w swoje narzędzia podczas sytuacji wojennych.
Thiyagu Ramasamy, szef działu usług publicznych w Antrópii, stwierdził, że firma "nigdy nie miała możliwości, aby zatrzymać działanie Claude'a, zmienić jego funkcje, zablokować dostęp do niego lub w inny sposób wpływać na operacje wojskowe". Dodał, że Antrópii "nie ma uprawnień do wyłączania technologii ani zmieniania zachowania modelu przed lub w trakcie bieżących operacji".
Konflikty z Departamentem Obrony
Od miesięcy narastają napięcia między Departamentem Obrony USA a laboratorium Antrópii dotyczące sposobu wykorzystania technologii firmy do celów bezpieczeństwa narodowego oraz granic, które powinny regulować to wykorzystanie. W tym miesiącu sekretarz obrony Pete Hegseth określił Antrópii jako zagrożenie dla łańcucha dostaw, co uniemożliwia departamentowi korzystanie z oprogramowania firmy, w tym przez kontrahentów, w nadchodzących miesiącach, co skłoniło inne agencje rządowe do wycofania się z korzystania z Claude'a.
Firma odpowiedziała, wnosząc dwie sprawy sądowe w celu zakwestionowania konstytucyjności zakazu i zażądała pilnego nakazu w celu odwrócenia decyzji. Niemniej jednak niektóre agencje już zaczęły unieważniać umowy. Sesja przesłuchania w jednej z spraw ma odbyć się 24 marca przed sądem federalnym w San Francisco, a sędzia może wkrótce wydać tymczasowe orzeczenie w tej sprawie.
Argumenty prawne i odpowiedzi
Prawnicy rządowi w poprzednim wniosku w tym tygodniu stwierdzili, że Departament Obrony "nie jest zobowiązany do ponoszenia ryzyka narażenia kluczowych systemów wojskowych na niebezpieczeństwo w krytycznych momentach obrony narodowej i aktywnych operacji wojskowych". Departament Obrony wykorzystuje Claude'a do analizy danych, pisania notatek oraz pomoc w generowaniu planów bitewnych, według raportu magazynu WIRED.
Przeciwnicy Antrópii uważają, że firma mogłaby zakłócić bieżące operacje wojskowe, wyłączając dostęp do Claude'a lub wprowadzając szkodliwe aktualizacje, jeśli nie zgadzałaby się z niektórymi zastosowaniami. Ramasamy zaprzeczył tej możliwości, podkreślając, że "Antrópii nie posiada żadnych tylnych drzwi ani zdalnego wyłącznika", a pracownicy Antrópii "nie mogą na przykład zalogować się do systemu Departamentu Wojny, aby zmodyfikować lub wyłączyć modele podczas operacji; technologia po prostu nie działa w ten sposób".
Współpraca z rządem i przyszłość
Ramasamy wyjaśnił, że wszelkie aktualizacje, które Antrópii mogłaby wprowadzić, będą realizowane za zgodą rządu i dostawcy chmury, w tym przypadku Amazon Web Services, podkreślając, że firma nie ma dostępu do routerów ani danych wprowadzanych przez użytkowników wojskowych do Claude'a.
W swoich argumentach przed sądem, kierownictwo Antrópii podkreśliło, że nie dąży do nadania sobie prawa weta wobec decyzji taktycznych wojskowych. Sarah Heck, szefowa polityki w firmie, w piątkowym wniosku stwierdziła, że Antrópii zaproponowała włączenie klauzuli do umowy przedstawionej 4 marca, która wyraźnie stwierdza, że nie ma prawa do kontrolowania ani wetowania decyzji operacyjnych Departamentu Wojny. Dodała, że firma była gotowa zaakceptować sformułowania, które rozwiązałyby jej obawy dotyczące wykorzystania Claude'a w przeprowadzaniu śmiertelnych ataków bez nadzoru ludzkiego, jednak negocjacje ostatecznie zakończyły się niepowodzeniem.
Działania Departamentu Obrony
Departament Obrony w swoich argumentach stwierdził, że podejmuje dodatkowe kroki w celu złagodzenia ryzyka łańcucha dostaw poprzez "współpracę z dostawcami usług chmurowych trzeciej strony, aby zapewnić, że kierownictwo Antrópii nie ma możliwości wprowadzania jednostronnych zmian" w obecnych systemach Claude'a.
W miarę jak sprawa się rozwija, zarówno Antrópii, jak i Departament Obrony będą musiały stawić czoła konsekwencjom swoich działań, a przyszłość współpracy w zakresie sztucznej inteligencji w kontekście bezpieczeństwa narodowego pozostaje niepewna.