בעוד עולם הטכנולוגיה והמדיניות רועש סביב סכנותיה הקיומיות של הבינה המלאכותית, מתברר כיצד פועלות המעצמות הגדולות מאחורי הקלעים. בתחילת החודש התכנסו מאות דיפלומטים באולם בכנסת באו"ם בשווייץ במטרה להגיע לאמנה משמעותית שתפקח על השימוש בכלי נשק קטלניים אוטונומיים - ההסכם הגלובלי הראשון אי-פעם שיסדיר את השימוש במערכות נשק המונעות בבינה מלאכותית. אולם, ביומו האחרון של הדיון, הפכו הדיונים לאגרסיביים ותוקפניים במיוחד.
על פי מסמכים שהגיעו לידי "הוושינגטון פוסט" ועדות של גורמים המעורים בפרטים אשר ביקשו לא לחשוף את שמם, עמלו דיפלומטים מטעם ארה"ב ורוסיה במשך כ-15 שעות רצופות על ריקון המסמך מתוכנו. שתי המעצמות הסירו שורה של סעיפים ותקנות שנועדו להבטיח את בטיחות השימוש בטכנולוגיות צבאיות מבוססות AI. בין היתר, נמחקה דרישה מפורשת שמערכות הלחימה יפעלו בצורה "צפויה ואמינה", וכן בוטל סעיף שחייב להתחשב בשיקולים אתיים בעת הפעלת נשק אוטונומי.
מעל הכל, הצוותים האמריקניים והרוסיים הסירו את הדרישה הקריטית המחייבת בני אדם לבחון ולאשר מטרות צבאיות המפותחות על ידי בינה מלאכותית טרם מתן פקודת תקיפה.
"מוות מאלף חתכים"
המהלכים הללו בוצעו בסשנים סגורים הרחק מעין הציבור, כאשר מצלמות האו"ם כובו ומשקיפים מהחברה האזרחית הורחקו מהאולם. וושינגטון ומוסקבה הציבו צבא של כעשרה עורכי דין כל אחת - ייצוג דיפלומטי שכמעט הכפיל את גודלן של משלחות אחרות - וביצעו שינויים בקצב מסחרר שהותיר את המשלחות הקטנות יותר המוממות.
"זה היה מוות מאלף חתכים", תיאר אחד המעורבים את הדיונים הקשוחים.
גילויים אלו מציגים באור מטריד כיצד ארה"ב ורוסיה פועלות באופן עקבי להחליש את הכללים הבינלאומיים בנוגע לנשק מבוסס AI, וזאת בזמן שהפנטגון מקדם במרץ שילוב של טכנולוגיות צומחות אלו באסטרטגיית שדה הקרב שלו. המשא ומתן מתקיים על רקע דיון ציבורי סוער וגלובלי סביב הסיכונים הקיומיים של AI מתקדם, כאשר מנכ"לי חברות ענק קוראים פעם אחר פעם למנהיגי העולם לשתף פעולה בהצבת גבולות ורגולציה.
בזמן שראשי חברות כמו OpenAI (סם אלטמן) ואנתרופיק (דאריו אמודי) מזהירים מפני הסכנות וקוראים באו"ם לגיבוש מודל ממשלתי עולמי משותף, הניסיונות המקומיים בארה"ב להסדיר את התחום נתקלים במחסומים משמעותיים, כאשר ממשל טראמפ טוען בעקביות שכל רגולציה מחמירה עלולה לחנוק את החדשנות הטכנולוגית.
יותר פגיעה באזרחים, פחות אחריות
מומחים לאכיפת חוק וזכויות אדם מזהירים מפני ההשלכות מרחיקות הלכת של מדיניות זו. וריטי קויל, סגנית מנהלת מחלקת נשק ב-Human Rights Watch, מזהירה כי היעדר כללים חזקים עלול לאפשר למכונות לקבל החלטות גורליות של חיים ומוות ללא שום פיקוח אנושי: "ההשפעה המעשית ברורה - יותר פגיעה באזרחים, פחות אחריות וגלישה מהירה לעבר מלחמה אוטומטית ומסוכנת בהרבה".
לדבריה, כאשר ארה"ב מעוניינת לשמור על יתרון טכנולוגי וצבאי, היא בוחרת באופן עקבי להעדיף הנחיות וקווים מנחים וולונטריים על פני חוקים מחייבים - טקטיקה שכבר נוסתה בעבר בתחומי הסייבר והחלל.
השפעת הבינה המלאכותית בשדה הקרב כבר מזמן אינה תיאורטית. רק לאחרונה השתמש צבא ארה"ב בצ'אטבוט של חברת אנתרופיק (הלוא הוא קלוד הפופולרי) כדי לזהות כאלף מטרות לתקיפה ביממה הראשונה של העימות מול איראן. בעיתון האמריקני טענו בנוסף כי "ישראל עושה שימוש נרחב במערכות AI לפעולותיה הצבאיות". במקביל, חברות טכנולוגיה דיווחו לאחרונה על מקרים שבהם מודלים פרצו באופן אוטונומי לשרתים של ארגונים ממשלתיים, מה שמגביר את החשש המוחשי שהטכנולוגיה הופכת לבלתי נשלטת.
בעוד שבנובמבר הקרוב צפויות המדינות לשוב ולהתכנס בז'נבה כדי לבחון האם הדיונים הנוכחיים יוכלו להפוך למנדט רשמי או לאמנה מחייבת מבחינה משפטית, ברור כעת שהדרך לשם רצופה מכשולים דיפלומטיים עמוקים, כאשר שתי המעצמות הגדולות בעולם נחושות לשמור בידיהן את החופש המלא להמשיך ולפתח את מלחמות העתיד של עידן הבינה המלאכותית.
סתם "AI" אינו מספיק
בעוד הקו הדיפלומטי של הבית הלבן מבקש למנוע רגולציה מחמירה ולהגן על היתרון הטכנולוגי של הפנטגון, הנשיא דונלד טראמפ החל לקדם מהלך מיתוג מחדש למוצר המדובר ביותר בעולם. בעקבות פגישות פסגה שקיים עם מנהיגי טכנולוגיה ובכירים בינלאומיים - בהם נשיא סין שי ג'ינפינג - הפתיע טראמפ ברשתות החברתיות והכריז כי הוא מעדיף שם חדש, נוצץ ושאפתני הרבה יותר למונח המוכר.
"כמו כמעט כולם, נראה שהוא אהב לקרוא למה שכונה באופן לקוי ולא מדויק 'בינה מלאכותית' בשם מדויק וחשוב בהרבה: סופר-אינטליגנציה", כתב טראמפ. "כולם אתמול הסכימו לכך גם כן".
המהלך של טראמפ מגיע ברקע סקרים המעידים על חרדה ציבורית עמוקה מפני טכנולוגיות AI, ומשקף את הניסיון המוכר של הנשיא לנסות להשתלט על הנרטיב הציבורי סביב מוצרים מורכבים. בעוד שבייג'ינג ממשיכה להשתמש במונח הסיני המסורתי לבינה מלאכותית, הממשל האמריקני כבר מיישר קו במהירות: בכינוס של מועצת הביטחון של האו"ם השבוע התייחס יועץ המדע של הבית הלבן, מייקל קראציוס, אל "הפיתוח הטכנולוגי המשמעותי ביותר של זמננו - סופר-אינטליגנציה, שבעבר נקראה AI".
במקביל, מחלקת המדינה הורתה לכל הדיפלומטים האמריקניים לאמץ את המונח החדש בכל תקשורת רשמית.
עם זאת, בעולם האקדמי המונח הזה אינו חדש כלל: חוקרים ופילוסופים השתמשו במושג "סופר-אינטליגנציה" עוד בשנות ה-90 כדי לתאר מכונות עתידיות שטרם קיימות - כאלה שעולות על ביצועי המוח האנושי בכל תחום אפשרי. כעת יהיה מעניין לראות האם מיתוג מחדש של הבית הלבן יצליח להרגיע את החששות הגלובליים, או שמא הוא רק יגביר את תחושת חוסר האונים מול מרוץ החימוש הטכנולוגי שיוצא מכל שליטה.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו