חוזה של 200 מיליון דולר בסכנה? הצעד שהפנטגון שוקל נגד ענקית ה-AI
חברת הבינה המלאכותית אנתרופיק מסרבת להסיר מגבלות על שימוש צבאי במודל קלוד שלה, בעיקר איסור על נשק אוטונומי ומעקב המוני • הפנטגון דורש שימוש ל"כל מטרה חוקית" • המתחים הגיעו לשיאם לאחר שהמודל שימש במבצע ללכידת נשיא ונצואלה מדורו • גורם בכיר: "הכול על השולחן, כולל ניתוק מוחלט"
Your browser doesn’t support HTML5 audio
הפנטגון שוקל לנתק את הקשר שלו עם אנתרופיק בגלל התעקשות חברת הבינה המלאכותית לשמור על כמה מגבלות על האופן שבו הצבא משתמש במודלים שלה, כך אמר הלילה (בין שבת לראשון) גורם בכיר בממשל האמריקני לאתר אקסיוס.
הפנטגון לוחץ על ארבעה מעבדות בינה מלאכותית מובילות לאפשר לצבא להשתמש בכלים שלהן ל"כל מטרה חוקית", אפילו בתחומים הרגישים ביותר של פיתוח נשק, איסוף מודיעין ומבצעים קרביים. אנתרופיק לא הסכימה לתנאים האלה, ולפי הדיווח, הפנטגון מתחיל לאבד סבלנות לאחר חודשים של משא ומתן קשה.
אנתרופיק מתעקשת ששני תחומים נשארים אסורים: מעקב המוני אחר אמריקנים ונשק אוטונומי לחלוטין.
"הכול על השולחן", כולל צמצום השותפות עם אנתרופיק או ניתוק מוחלט, הסביר הגורם. "אבל יצטרך להיות תחליף מסודר עבורם, אם נחשוב שזו התשובה הנכונה".
דובר אנתרופיק אמר שהחברה נשארה "מחויבת לשימוש בבינה מלאכותית מתקדמת לתמיכה בביטחון הלאומי של ארה"ב".
השימוש באנתרופיק ללכידת מדורו
המתחים הגיעו לשיא לאחרונה על רקעהשימוש הצבאי בכלי ה-AI קלוד במבצע לתפיסת ניקולס מדורו מוונצואלה, דרך השותפות של אנתרופיק עם חברת תוכנת הבינה המלאכותית Palantir.
המבצע, שבמהלכו הופצצו מספר אתרים בקראקס בחודש שעבר, מדגיש את התרחבות השימוש בכלי AI מתקדמים בפנטגון. עם זאת, כללי השימוש של אנתרופיק אוסרים על הפעלת קלוד לצורך קידום אלימות, פיתוח נשק או ביצוע מעקב.
דובר החברה מסר כי אין ביכולתם להתייחס לשאלה האם קלוד שימש במבצע מסוים, מסווג או אחר, אך הדגיש כי כל שימוש במודל - במגזר הפרטי או הממשלתי - חייב לעמוד במדיניות השימוש של החברה. משרד ההגנה האמריקני סירב להגיב לפניית העיתון.
לפי הגורם הבכיר, מנהל באנתרופיק פנה למנהל ב-Palantir כדי לשאול אם קלוד שימש בפשיטה. "זה הועלה בצורה כזו שרומזת שהם עשויים לא לאשר את השימוש בתוכנה שלהם, כי ברור שהייתה אש חיה במהלך הפשיטה הזו, אנשים נורו", אמר הפקיד.
דובר אנתרופיק הכחיש זאת בתוקף, ואמר שהחברה לא "דנה בשימוש בקלוד למבצעים ספציפיים עם משרד המלחמה. גם לא דנו בזה עם שום שותפי תעשייה מחוץ לדיונים שגרתיים בנושאים טכניים בלבד".
"קלוד משמש למגוון רחב של מקרי שימוש הקשורים למודיעין ברחבי הממשלה, כולל משרד המלחמה, בהתאם למדיניות השימוש שלנו".
"השיחות של אנתרופיק עם משרד המלחמה עד כה התמקדו בסט ספציפי של שאלות מדיניות שימוש - כלומר, המגבלות הקשיחות שלנו סביב נשק אוטונומי לחלוטין ומעקב ביתי המוני - אף אחת מהן לא קשורה למבצעים נוכחיים", אמר הדובר.
חוזה של עד 200 מיליון דולר
החוזה בין אנתרופיק לפנטגון, בהיקף של עד 200 מיליון דולר, נחתם בקיץ האחרון. לפי דיווח ב"וול סטריט ג'ורנל", חששות החברה מהשימוש האפשרי בקלוד בפעולות צבאיות תרמו לדיונים בממשל לגבי עתיד ההתקשרות.
גורמים המעורים בנושא ציינו בפני העיתון האמריקני כי אנתרופיק הייתה מפתחת ה-AI הראשונה שהמודל שלה שולב בפעילות מסווגת של משרד ההגנה.
הגורם ששוחח עם אקסיוס הודה שלצבא יהיה קשה להחליף במהירות את קלוד, כי "חברות המודלים האחרות פשוט מאחור" כשמדובר ביישומים ממשלתיים מיוחדים.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו