דוח מודיעין שהופץ באביב האחרון ברחבי צבא ארה"ב, בעיצומה של המלחמה עם איראן, הדליק מיד נורות אדומות: ספינה סינית במזרח התיכון מובילה רכיבים של תוכנית נשק גרעיני.
הצבא האמריקני החל לפעול במטרה ליירט את הספינה, כך לפי ארבעה גורמים המכירים את האירוע. שניים מהם סיפרו כי אנשי צבא אמריקנים חמושים נערכו לעלות על הספינה. מטוסים צבאיים כבר היו באוויר, לפי אחד המקורות ולפי גורם נוסף המעורה בפרטים.
רק זמן קצר לפני המבצע המתוכנן העמיקו גורמים אמריקנים את הבדיקה של הדוח, שנכתב על ידי אנליסט בפיקוד המבצעים המיוחדים, וגילו כי הוא הופק בסיוע בינה מלאכותית (AI). עוד התברר כי צ'אטבוט שבו השתמש האנליסט זיהה באופן שגוי את החומרים שהספינה נשאה. CNN לא הצליחה לברר מהם החומרים שזוהו בטעות.
לפי אחד המקורות, הדוח היה "שקרי לחלוטין". עם זאת, הוא כמעט "התחיל מלחמה", אמר המקור. כל פעולה אמריקנית נגד ספינה סינית הייתה עלולה להוביל להסלמה לעימות צבאי בין שתי המדינות.
בצבא ובקהילת המודיעין האמריקניים פועלים לשלב בינה מלאכותית כמעט בכל תחום, החל מניתוח כמויות עצומות של מידע גולמי שאוספת ארה"ב ובחירת מטרות לתקיפה, ועד משימות שגרתיות יותר כמו ניהול תקציבים, לוגיסטיקה ושרשראות אספקה.
אולם האירוע ממחיש את הסיכונים המשמעותיים הכרוכים בשימוש בטכנולוגיה החדשה והעוצמתית, שעדיין אינה מובנת במלואה, לצורכי קביעת מטרות במהלך מלחמה. אנליסטים מזהירים זה זמן רב כי שימוש בבינה מלאכותית על בסיס מידע לקוי או משובש עלול להוביל לטעות חישוב הרסנית - כזו שעלולה, למשל, לגרום לארה"ב לירות על ספינה סינית על בסיס מידע שגוי.
במקרה הזה, האנליסט הזין לצ'אטבוט מידע מודיעיני על מטען הספינה, שמקורו בפיקוד המבצעים המיוחדים של ארה"ב באוקיינוס השקט, שבסיסו בהוואי. לא ברור אם הצ'אטבוט היה כלי מסחרי או מערכת של ממשלת ארה"ב.
"הכלים הפנימיים הם ברובם פשוט עותקים של המוצרים המסחריים, עם קצת איפור", אמר בכיר אמריקני לשעבר, המכיר את מערכות הבינה המלאכותית שבהן משתמשים אנליסטים בצבא ובקהילת המודיעין.
הצ'אטבוט שילב מידע ממקורות פתוחים עם מודיעין אותות סודי שנמצא במאגרי הממשלה, והגיע למסקנה השגויה בנוגע לחומרים שהספינה נשאה.
בהמשך השתמש האנליסט בבינה מלאכותית פעם נוספת כדי לעבד את הממצאים לדוח מודיעיני סטנדרטי - מסוג הדוחות שבהם גורמים בצבא נותנים אמון - והפיץ אותו.
פיקוד המבצעים המיוחדים של ארה"ב באוקיינוס השקט ומשרד ההגנה האמריקני לא הגיבו לבקשת CNN לתגובה.
הסיבה לאימוץ המהיר של הבינה המלאכותית היא היכולת שלה לסייע לצבא לקבל החלטות בשדה הקרב במהירות רבה יותר, למשל בנוגע למטרות לתקיפה או למיקום של נכסים צבאיים. גורמים אמריקנים אומרים כי ארה"ב אינה יכולה להרשות לעצמה לפגר בשילוב הבינה המלאכותית, מחשש שבעתיד תידרש להילחם בסין או ביריב אחר שיוכל להקדים אותה.
בחודש ינואר פרסם שר ההגנה האמריקני פיט הגסת' את "אסטרטגיית האצת הבינה המלאכותית" של משרדו, במטרה להאיץ את השימוש הצבאי בטכנולוגיה.
"נשחרר ניסויים, נסיר חסמים ביורוקרטיים, נמקד את ההשקעות שלנו ונציג את גישת הביצוע הדרושה כדי להבטיח שנוביל בתחום הבינה המלאכותית הצבאית", אמר הגסת' בנאום שבו הכריז על האסטרטגיה.
האסטרטגיה מקדמת גם שימוש נרחב בבינה מלאכותית ברחבי הצבא, ומורה למשרד ההגנה להנגיש אותה באמצעות כמה תוכניות, במטרה "להפוך את הניסויים והטרנספורמציה בתחום הבינה המלאכותית לנגישים בכל רחבי המשרד, באמצעות העמדת מודלי הבינה המלאכותית המובילים בעולם של אמריקה ישירות לרשות שלושת מיליון העובדים האזרחיים והצבאיים שלנו, בכל רמות הסיווג".
עם זאת, כמה גורמים אמריקנים המכירים את המצב אמרו כי המאמץ מבוזר, כאשר חלקים שונים בממשל משתמשים בכלים שונים, תחת הנחיות ותקני בטיחות שונים. אין מערכת סטנדרטים אחת שקובעת כיצד ארה"ב מאמתת את המידע שמייצרים הכלים הללו.
השימוש במערכות AI שונות, המופעלות על ידי גופים שונים בצבא ובקהילת המודיעין, גורם לכך שרמת האמינות והיכולות שלהן משתנה במידה רבה.
בשבועות האחרונים מתקיים בוושינגטון ויכוח אינטנסיבי על השימוש בבינה מלאכותית, בעקבות סדרת אזהרות חמורות של מהנדסים בעמק הסיליקון ומנכ"לים בתעשיית הטכנולוגיה, שהתריעו מפני האפשרות שבינה מלאכותית תצא משליטה אנושית, עם השלכות שעלולות להביא לקץ הציוויליזציה.
אולם האירוע עם הספינה הסינית מדגיש סיכון אחר ומיידי יותר: בני אדם עלולים לקבל החלטות הרסניות על בסיס מידע לא מדויק או מטעה שנוצר על ידי בינה מלאכותית או מערכות אוטומטיות אחרות.
גורמים אמרו כי הצבא האמריקני פונה במהירות לבינה מלאכותית כדי לסייע בקביעת מטרות לתקיפה - תחום שבו קיים סיכון ברור לטעויות קטלניות.
"בינה מלאכותית בקביעת מטרות היא בהחלט משהו שהולך ומתרחב, ואין הנחיות ברורות לגבי האופן שבו נוכחות של אדם בתהליך תמנע נפגעים אזרחיים או ירי בשוגג על כוחותינו", אמר גורם נוסף המכיר את המדיניות הנוכחית בצבא.
לדברי אחד המקורות, ה"הזיה" שנוצרה על ידי הכלי שבו השתמש האנליסט במקרה הזה אינה אירוע בודד בקהילת המודיעין מאז שהכלים הללו החלו להתפשט בממשל.
עבור כמה מאנשי המודיעין הוותיקים - גם כאלה שתומכים באופן כללי בשימוש בבינה מלאכותית בצבא - הטכנולוגיה מפעילה לחץ על אנליסטים לייצר ולהפיץ מודיעין במהירות רבה יותר, ובכך פותחת פתח לטעויות. כמה מקורות אמרו כי אנליסטים צעירים, שגדלו עם הכלים הללו, נוטים יותר לתת בהם אמון ללא ביקורת מספקת.
"בינה מלאכותית מאפשרת לך להגיע לרעיון גרוע מהר יותר", אמר אחד המקורות.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו