Компанія Антропі в судовій справі в п’ятницю підтвердила, що не має можливості зупинити свою генеративну модель штучного інтелекту «Клод» (Claude) після її запуску армією США. Заяви компанії стали відповіддю на звинувачення, висунуті її попереднім керівництвом в адміністрації Трампа, що вона може маніпулювати своїми інструментами під час військових конфліктів.
Голова сектору державних послуг Антропі, Тіагу Рамасамі (Thiyagu Ramasamy), зазначив, що компанія «ніколи не мала можливості зупинити роботу Клод або змінити його функції, або ж обмежити доступ до нього, чи вплинути іншим чином на військові операції». Він додав, що Антропі «не має повноважень зупиняти технології або змінювати поведінку моделі до або під час поточних операцій».
Конфлікти між Міністерством оборони та Антропі
Конфлікти між Міністерством оборони США та лабораторією Антропі тривають вже кілька місяців щодо того, як компанія використовує свої технології для національної безпеки та які межі повинні регулювати це використання. Цього місяця міністр оборони Піт Хегсет (Pete Hegseth) охарактеризував Антропі як загрозу для ланцюга постачання, що забороняє міністерству використовувати програмне забезпечення компанії, включаючи через підрядників, протягом найближчих місяців, що змусило інші державні органи відмовитися від використання Клод.
Компанія відповіла поданням двох судових позовів, оскаржуючи конституційність заборони, і попросила термінового рішення для скасування цього рішення. Проте деякі замовники вже почали скасовувати контракти. Слухання в одній з справ заплановане на 24 березня в окружному суді США в Сан-Франциско, і суддя може незабаром винести тимчасове рішення на користь компанії.
Правові та етичні аспекти
Адвокати уряду в попередньому поданні цього тижня зазначили, що Міністерство оборони «не зобов’язане ризикувати, піддаючи небезпеці критично важливі військові системи в критичні моменти національної оборони та активних військових операцій». Водночас Міністерство оборони використовує Клод для аналізу даних, написання меморандумів і допомоги в розробці бойових планів, згідно з доповіддю журналу WIRED.
Опоненти Антропі вважають, що компанія може перешкоджати поточним військовим операціям, зупиняючи доступ до Клод або вносячи шкідливі оновлення, якщо її позиції не співпадатимуть з певними використаннями. Рамасамі спростував цю можливість, підкресливши, що «Антропі не має жодної задньої двері або дистанційного вимикача», і що співробітники Антропі «не можуть, наприклад, увійти в систему Міністерства оборони, щоб змінити або зупинити моделі під час операції; технологія просто не працює так».
Співпраця з урядом та постачальниками
Рамасамі пояснив, що будь-які оновлення, які компанія може надати, будуть здійснені за згодою уряду та постачальника хмарних послуг, у цьому випадку Amazon Web Services, зазначивши, що компанія не має доступу до маршрутизаторів або даних, які вводять військові користувачі в Клод.
У своїх судових поданнях керівництво Антропі підтвердило, що не прагне надати собі право вето на військові тактичні рішення. Сара Хек (Sarah Heck), голова політики компанії, у п’ятничному поданні зазначила, що Антропі запропонувала включити гарантію в контракт, поданий 4 березня, що прямо вказує на те, що вона не має жодного права контролювати або вето на законні операційні рішення Міністерства оборони. Вона також зазначила, що компанія була готова прийняти формулювання, які б вирішили її занепокоєння щодо використання Клод для виконання летальних ударів без людського нагляду, але переговори врешті-решт зазнали невдачі.
Додаткові заходи Міністерства оборони
Зі свого боку, Міністерство оборони в своїх поданнях зазначило, що вживає додаткові заходи для зменшення ризику ланцюга постачання, «працюючи з постачальниками хмарних послуг третьої сторони, щоб забезпечити, що керівництво Антропі не може вносити односторонні зміни» до існуючих систем Клод.
Ця ситуація підкреслює важливість регулювання технологій штучного інтелекту у військовій сфері та необхідність забезпечення безпеки національних інтересів у часи зростаючих загроз.