חברת אנטרופי טוענת בבית משפט ביום שישי כי אין לה את היכולת להשבית את מודל הבינה המלאכותית הגנרטיבית שלה, קלוד (Claude), לאחר שהופעל על ידי צבא ארצות הברית. ההצהרות הללו מגיעות בתגובה להאשמות שהממשל הקודם של טראמפ הגיש נגד החברה לגבי האפשרות שהיא עלולה להשפיע על הכלים שלה במהלך מלחמה.
בראיון עם תיאגו רמסאמי (Thiyagu Ramasamy), ראש תחום השירותים הציבוריים באנטרופי, הוא ציין שהחברה "לא היתה יכולה אי פעם לגרום לקלוד להפסיק לפעול, לשנות את תפקודו או לחסום גישה אליו". הוא הוסיף כי אנטרופי "אין לה סמכויות להשבית את הטכנולוגיה או לשנות את התנהגות המודל לפני או במהלך פעולות צבאיות".
המתיחות בין אנטרופי למשרד ההגנה
המתיחות בין משרד ההגנה האמריקאי למעבדה של אנטרופי הולכת ומתרקמת מזה מספר חודשים בנוגע לדרכים שבהן ניתן להשתמש בטכנולוגיות החברה למטרות ביטחוניות לאומיות והגבולות של השימוש הזה. החודש, שר ההגנה פיט היגסית (Pete Hegseth) תיאר את אנטרופי כסיכון לספקיות, מה שמונע מהמשרד להשתמש בתוכנות החברה, גם לא דרך קבלנים, בחודשים הקרובים, דבר שהניע משרדים ממשלתיים אחרים לשקול את השימוש בקלוד.
בתגובה, החברה הגישה שתי תביעות למערכת המשפט כדי לערער על חוקיות ההגבלה וביקשה צו חירום לביטול ההחלטה. עם זאת, חלק מהלקוחות החלו כבר לבטל חוזים שלהם. זוגת ישיבות הצהרה מתוכננות להתקיים ב-24 במרץ בבית המשפט הפדרלי במחוז סן פרנסיסקו, כאשר ייתכן שהשופט יאשר החלטה זמנית בקרוב.
דיון משפטי ומצב המערכת
עורכי דין מהממשלה דיברו במניפסטים קודמים השבוע על כך שמשרד ההגנה "אינו מחויב לסבול את הסיכונים של סיכון מערכת צבאית חיונית ברגעים קריטיים להגנה הלאומית ולפעולות צבאיות פעילה". משרד ההגנה משתמש בקלוד כדי לנתח נתונים, לכתוב דוחות ולעזור ביצירת תוכניות קרב, לפי דיווח של מגזין WIRED.
יריביה של אנטרופי טוענים שהחברה עלולה להפריע לפעולות צבאיות על ידי השבתת הגישה לקלוד או על ידי ביצוע עדכונים מזיקים אם היא לא מסכימה עם שימוש מסוים. רמסאמי דוחה את הטענה הזו, ומדגיש כי "אנטרופי אינה שומרת על דלת אחורית או על מפתח השבתה מרחוק", וכי עובדי אנטרופי "לא יכולים, לדוגמה, להתחבר למערכת של משרד ההגנה כדי לשנות או להשבית את המודלים במהלך פעולות-כך הטכנולוגיה פשוט אינה פועלת בצורה זו."
גיבוש עמדות והגבלות עתידיות
רמסאמי הסביר כי כל עדכונים שעשויה אנטרופי להציע יהיו באישור הממשלה ומספקי הענן, במקרה זה שירותי אמזון (Amazon Web Services), והבהיר כי החברה אינה יכולה לגשת למסמכים או לנתונים שהוזנו על ידי המשתמשים הצבאיים בקלאוד.
במניפסטים שלה מול בית המשפט, מנהיגות אנטרופי מדגישה שלא היא שואפת להעניק לעצמה זכות וטו על ההחלטות הטקטיות הצבאיות. שרה היק (Sarah Heck), ראש תחום המדיניות בחברה, ציינה במניפסט ביום שישי כי אנטרופי הציעה לכלול הבטחה בחוזה המוצע ב-4 במרץ, המפרטת במפורש כי היא אינה מחזיקה בזכות לשלוט או להטיל וטו על ההחלטות המנהליות של משרד ההגנה. היא הוסיפה כי החברה הייתה מוכנה לקבל ניסוחים שיתייחסו לחששותיה בנוגע לשימוש בקלוד להנחלת מכות מוות ללא פיקוח אנושי, אך השיחות לא צלחו בסופו של דבר.
צעדים של משרד ההגנה למזעור הסיכון
משרד ההגנה הבהיר במניפסטים שלה כי הוא מקדיש פעולות נוספות כדי להפחית את הסיכון לספקיות על ידי "עבודה עם ספקי שירותי ענן של צד שלישי כדי להבטיח שכוחות אנטרופי לא יוכלו לבצע שינויים חד צדדיים" על מערכות קלוד המתקיימות כיום.
המחלוקות האלו בין אנטרופי למשרד ההגנה מצביעות על הסיבוכים הגדלים שמתלווים לשימוש בטכנולוגיות מתקדמות בו זמנית עם בדיקות ברורות של איזון הכוח והאחריות.