פרופ' יצחק בן ישראל, חוקר סייבר ובינה מלאכותית, ראש סדנת יובל נאמן למדע, טכנולוגיה וביטחון וראש מרכז הסייבר ע"ש בלווטניק באוניברסיטת ת"א. לשעבר ראש מפא"ת
פרופ' בן ישראל, רק לפני כשבועיים הורה הממשל האמריקני להשבית את מודלי ה־AI של אנת'רופיק - פייבל 5 ומיתוס 5 - בשל רמת היכולת הגבוהה שלהם והיתכנות לפריצות אבטחה. השבוע דווח כי המודלים הללו, תיאורטית, יכולים לפרוץ למערכות המשוכללות ביותר, של ה־NSA למשל, בתוך שעות. האם, בדומה למה שקרה עם אנת'רופיק, כולנו יכולים לקום מחר בבוקר ולגלות שהחברים החדשים שלנו, צ'אט GPT וג'מיני, נחסמו כי הם מתקדמים מדי ועלולים להוות סיכון לביטחון הלאומי, לחברה?
"התשובה היא כן. אנשים יכולים לקום מחר בבוקר ולגלות שמנוע הבינה המלאכותית האהוב עליהם יצא משימוש. זה יזעזע את העולם. הרי יש כאלה שבכל בוקר משוחחים עם חבר הבינה המלאכותית שלהם. אנשים חושבים שהוא בטלפון שלהם, אבל מדובר בחוות שרתים ענקיות, המצויות בידי מספר מדינות מצומצם; אם אחת החברות או החוות סוגרת, או נאלצת לסגור - אין לה יותר AI. הכלי הכי ויראלי שהאנושות משתמשת בו, AI, בנוי על תשתית נקודתית, שברירית, ביחס להיקף השימוש בה".
"AI בנוי על תשתית נקודתית ביחס להיקף השימוש. לכן אני פחות חושש מהשתלטות AI על העולם ב־50 השנים הקרובות. אפשר לנתק את התקע מחוות השרתים ונגמר הסיפור. כל עוד אין יעילות אנרגטית, המין האנושי יכול לנשום לרווחה"
האנושות מפליגה על פני אוקיינוס דיגיטלי סוער של מידע, אבל כל המים זורמים מתוך מבחנה אחת קטנה. די מדהים לחשוב על כך שקיום המודלים האלה בחיינו לא כל כך ודאי.
"נכון. אבל יש בכך גם נחמה. רבים חושבים שמכונות ישתלטו על האנושות, כמו בסרט 'שליחות קטלנית: עלייתן של המכונות' עם ארנולד שוורצנגר. בפועל, הם שוכחים שהמוח שלנו הרבה יותר יעיל. מספיקים לו כוס מיץ עגבניות וסנדביץ' כדי לחשוב במשך יום שלם. בינה מלאכותית, לעומת זאת, מתבססת על כמות אנרגיה עצומה. היום עיקר ההשקעה של חברות ענק כמו מיקרוסופט ואמזון היא בכורי כוח גרעיניים, בתשתיות אנרגיה.
"בונים את החוות האלה מתחת לאגמים, מתחת לים, משום שהן גם צורכות אנרגיה עצומה וגם מפזרות חום רב וצריכות קירור. לכן אני גם פחות חושש מהשתלטות AI על העולם ב־50 השנים הקרובות, כי תשתיות הבינה המלאכותית עדיין לא מתחרות בגודל, בניידות וביעילות של המוח האנושי. אדם יכול להוציא את התקע, את השטקר מחוות השרתים - ונגמר הסיפור. אפשר גם להפציץ אותן מהאוויר. היכולות החישוביות של הבינה אמנם מתקדמות, אבל כל עוד לא יעבדו על הגודל הפיזי, על היעילות האנרגטית - המין האנושי יכול לנשום לרווחה".
ובדרך ליעילות הזאת יש המון אינטרסים.
"מאחורי הבינה המלאכותית עומדים אינטרסים עסקיים אדירים, עם היקפים כספיים אדירים. לשם המחשה, לפני יותר מעשור הגעתי עד מארק צוקרברג, והצעתי לו את מודל הרמזור: כלומר - האלגוריתמים של פייסבוק יבדקו עבור כל פוסט אם מדובר בפייק או לא. אם מדובר בפייק יעלה אור אדום, אם יש חשד בינוני יעלה אור כתום, ואם התוכן בטוח - אור ירוק. מתברר, כך אני הבנתי ממנו, שהרעיון יכול לגרום להפסד מוערך של כ־250 מיליון דולר ביום. כך שלא כל רעיון טוב ויעיל הוא בר־מימוש כלכלית".
הנשק האולטימטיבי
האינטרס העסקי דומיננטי, והוא זורק אור מעניין על פרשת אנת'רופיק. השבתת המודלים שלה נובעת מדאגה ביטחונית אמיתית, או שמא מדובר בעימות עסקי, או אולי החלטה פוליטית?
"תערובת של הכל. הרי כבר לפני 15 שנה, בינה מלאכותית המבוססת על למידת מכונה מסורתית, פרצה למחשבים. ב־2014 הכניסה ישראל את הבינה המלאכותית ככלי הגנה מפני סייבר, וחמש שנים מאוחר יותר - החל עיסוק אינטנסיבי בשימוש ב־AI מתקדם מהצד השני כדי להתגבר על ה־AI המגן ולבצע התקפות סייבר.
"זה בדיוק הרקע לעימות בין הממשל לאנת'רופיק: בפברואר עצר הפנטגון חוזים עם אנת'רופיק, לאחר שמנכ"ל החברה, דריו אמודיי, סירב לאפשר ל־AI שלו לשמש למעקב המוני או ליצירת נשק אוטונומי, ודרש התחייבות כזו מצד הממשל האמריקני. הממשל הגיב בהכרזה על החברה כסיכון לשרשרת האספקה והקפיא את השימוש במוצריה. החודש, ברקע המאבק על תקציבי הביטחון, הורה ממשל טראמפ להשבית את המודלים המתקדמים של החברה, בטענה לסכנה לביטחון הלאומי ולפרצות אבטחה".
נשמע שיש פה גם דאגות ביטחוניות.
"כן, למרות שדאגות ביטחוניות בדרך כלל סוגרים בשקט. יש פה עוד עניין: אני עוקב אדוק אחרי טראמפ. הוא, בין היתר, התבטא נגד אנשי אנת'רופיק וכינה אותם 'משוגעי שמאל קיצוני'. כך שייתכן שיש פה שילוב של אלמנטים ביטחוניים לצד השקפות עולם".
"יש פה מלחמה קרה, ואין ספק שארה"ב לא רוצה למצוא את טכנולוגיות הקצה שלה בידיים של מדינות שמתחרות בה. הממשל האמריקני, ואני מניח שזה כולל את טראמפ, מודאג מהטכנולוגיה הסינית, בדגש על בינה מלאכותית"
האם ייתכן שמדובר במהלך התקפי במלחמה קרה חדשה - כלומר ניסיון לוודא ששום מודל קצה מסחרי־מערבי לא עובר לידיים סיניות?
"מהלך דומה הסעיר את העולם לפני כמה שנים, מול NSO הישראלית. גם אז, וגם היום, נימוקי הממשל עמומים. אבל כן ברור שאם מייצאים את הטכנולוגיה הזאת, היא מהווה סיכון לביטחון הלאומי בארה"ב. יש פה מלחמה קרה, ואין ספק שארה"ב לא רוצה למצוא את טכנולוגיות הקצה שלה בידי מדינות מתחרות. הממשל האמריקני, ואני מניח שזה כולל את טראמפ, מודאג מהטכנולוגיה הסינית, בדגש על AI".
המתח סביב הטכנולוגיה אינו ניסוב רק על הציר שבין המדינות, אלא נע גם בציר המסחרי־מדיני. כלומר, AI מושווית אף לפיתוח של אופנהיימר, אבל נשלטת על ידי חברות פרטיות. האם השליטה הפרטית סבירה בעיניך, ויותר מכך - האם אנחנו ניצבים במעין רגע אופנהיימרי שכזה, שבו הממשל מתחיל להבין שהטכנולוגיה מתקדמת מדי מכדי להשאירה בידיים פרטיות?
"יש כאן עניין עמוק יותר. AI פותח על ידי חברות פרטיות, ואילו אצל אופנהיימר הפיתוח היה ממשלתי ברובו. לא סביר שממשלה היתה מצליחה לפתח מודל שפה של בינה מלאכותית לבדה. עניין הבעלות הפרטית על AI הוא סביר, משום שהרעיון שלפיו ממשלות מנהלות מחקר ופיתוח לא נחל הצלחה לאורך השנים, אלא אם מדובר במקרה מאוד ייחודי כדוגמת מלחמת עולם.
"לגבי הישארות הטכנולוגיה בידיים פרטיות, מוטב כך - תחת פיקוח, כמובן. אם בכל פעם שתצמח טכנולוגיה מבטיחה בשוק הפרטי, המדינה תלאים אותה - לסקטור הפרטי לא תהיה אמביציה לחתור לפיתוחים משמעותיים.
"בכל מקרה, לרגולציה לוקח זמן ליישר קו עם הטכנולוגיה. רק החודש עבר לראשונה, ובקריאה ראשונה, חוק הסייבר. כבר ב־2011 המלצתי לרה"מ שיש להקים מערך סייבר, ולהתחיל בניסוח החוק כשלוש שנים לאחר מכן. במקום שלוש שנים עברו כבר 15 שנים, והחוק עדיין לא עבר".
למה זה לוקח כל כך הרבה זמן?
"קיים קושי גדול בהגדרת המותר והאסור עבור טכנולוגיה חדשה, שמשתנה כל רגע בצורה מהירה. חשוב לזכור שבמקרה הזה החיפזון באמת עלול להיות מן השטן. מדינות שקידמו והטמיעו רגולציה מגבילה לסייבר כבר ב־2014, עיכבו את עצמן במרוץ להשגת טכנולוגיה מתקדמת יותר".
בישראל, למשל, בחרו בגישה די מכילה וגמישה כלפי בינה מלאכותית, מבלי לעשות שימוש ברגולציה רבה מדי.
"נכון. במדינות חופשיות, כשהממשלה לא מתערבת יותר מדי, יש יותר פוריות יצירתית. אם מחמירים ברגולציה, פיתוח הטכנולוגיה יהפוך קשה ומורכב יותר. מקיאוולי כתב שקשה מאוד לשלב חדשנות בחיינו, משום שכך הוא טבע האדם: מתנגדי הטכנולוגיה לרוב יחששו מכך שהחדשנות תפגע בכוחם, תחליף אותם.
"גם מי שייהנה מהסדר החדש יתמוך בחדשנות בשפה רפה בלבד, כותב מקיאוולי, בגלל אותו פחד מבעלי הכוח. הוא גם מתייחס לחוסר האמון המולד, כלומר לספקנות האנושית כלפי החדש והלא מוכר. הדברים נכתבו לפני כ־500 שנה, ונכונים עד היום".
ההמתנה והספקנות האנושית כלפי טכנולוגיה חדשה הן בגדר מותרות שאין לנו בביטחון הלאומי. בעניין זה, עד כמה מדינת ישראל מוכנה כיום, מבחינת אבטחת תשתיות קריטיות מול יכולות AI התקפיות?
"אנחנו מוכנים, ואין לנו יותר מדי בחירה במזה"ת. ככל שעובר הזמן, מחשבים הופכים ליעילים וקטנים יותר, ואגירת אינפורמציה הופכת לדיגיטלית. הסייבר התפתח באופן חשאי מתחילת שנות ה־80, בצל המודיעין, וב־2010 ישראל הוציאה אותו לשוק האזרחי־מסחרי. בעשור האחרון, לאט־לאט, הדגש עובר לבינה מלאכותית. כך נוצר מצב שבו AI יכול להגן על מחשבים, וגם לפרוץ אליהם עם סייבר מתקדם. אין כאן מצב שבו הסייבר ייעלם ו'יחי המלך החדש - בינה מלאכותית'. זו טעות לוגית.
"אם בינה מלאכותית תשפר את הרפואה ועריכת הדין, החברה האנושית תהיה תלויה אף יותר בקשר שבין אדם למחשב. המשמעות היא שגם יהיו יותר הזדמנויות לחורשי הרעה להתקיף בסייבר. ככל שה־AI יגדל ויתפשט, הביקוש להגנת סייבר יגדל. ה־AI מושך אחריו את הסייבר, שלא ייעלם מפה אף פעם. כל הדברים האלה גם מחזקים את הצורך ברגולציה".
כיצד משתנה תפיסת הביטחון כשהאיום הפוטנציאלי הוא לא האקר אנושי בטהרן, אלא מערכת אוטונומית מתקדמת?
"אין לנו דוקטרינה ביטחונית כתובה שעושים בה שימוש שוטף. ב־2018 ביקש ראש הממשלה ממני, ומפרופ' אביתר מתניה, לכתוב תוכנית הממליצה כיצד להפוך את ישראל לאחת מחמש המדינות המובילות בעולם בבינה מלאכותית, בתוך חמש שנים.
"כתבנו כ־400 עמודים, רובם בלתי מסווגים. רק פרק אחד, ביטחוני, הוכרז כמסווג. זה גם הפרק היחיד שהמלצותיו יושמו במלואן. בתחומים האחרים - התעשייה, ולא הממשלה, עשתה את הנדרש ולכן ישראל עדיין במקום מתקבל על הדעת. חלק גדול מתוצאות המלחמה האחרונה הן פועל יוצא של שילוב AI בשלל צורות".
שעון הנפש
בעניין אחר, איך מאזנים בין הפחד מסכנות AI לבין המחיר: עצירת האבולוציה המדעית?
"הבינה המלאכותית טומנת בחובה פוטנציאל רב, ועשויה לעזור לנו בפיתוח תרופות, ובמציאת פתרונות בתחומים מגוונים וטכנולוגיות משנות חיים. לפעמים יש אובדני שליטה, כמו שחלק מההשערות גורסות באשר להתפרצות הקורונה.
"אבל האיזון לא נמצא בנקודת העצירה. המענה לפחד מ־AI הוא לא פחות טכנולוגיה, כי את השאלטר תמיד אפשר להוריד. המענה הוא יותר טכנולוגיה, שגם תוכל לנטר, לבקר ולאבטח את המערכות. וישראל לא צריכה לשבת בצד, אלא להוביל את המרוץ הטכנולוגי".
הפיקוח הטכנולוגי הוא נדבך קריטי. בתחילת השיחה הדגשת שאתה לא מביע חשש מהשתלטות טכנולוגית, אבל מעניין לדעת - האם אנחנו קרובים לסינגולריות, ליום שבו המכונה תתעלה על יכולות הניבוי, החיזוי וההבנה של בני האדם?
"בהתחלה שאלו את השאלה הזו רק על קצב החישוב, ואני חושב שכבר לפני 4-3 שנים טכנולוגיית המחשבים עברה את קצב החישוב האנושי. זו לא משימה קשה, כי המוח שלנו לא עוסק רק בחישובים, אלא גם בפעולות ניטור ופיקוח על האיברים. במקביל, הוא שומר על דריכות מפני אויבים. יתרוננו על הבינה המלאכותית, בינתיים, הוא יכולת המוח להיות רב־משימתי, וגם זה מתחיל להיות אתגר כשמולנו ניצבים סוכני AI.
"כך או כך, אנחנו עדיין לא במקום של ייצור אינטליגנציה כללית שיכולה ללמוד כל תחום ולהתעלות על היכולת האנושית עשרות מונים, וגם להבין דברים בצורה עמוקה יותר".
הממציא והעתידן הנודע ריי קורצווייל טען בעבר שהסינגולריות תתרחש בשנת 2045.
"אני סבור שזה יקרה הרבה אחר כך. זה לא רק עניין טכנולוגי, אלא גם פסיכולוגי. כבר 15 שנים שאנחנו יודעים לייצר מכונית אוטונומית המפגינה נהיגה טובה יותר מזו האנושית. אבל אי אפשר להשתמש בטכנולוגיה הזו במסות - בגלל החשש האנושי. אם ג'יפ אוטונומי בטקסס דורס אנשים - כולם מזדעקים. בדיוק כפי שרוב בני האדם לא מוכנים לטוס במטוס ללא טייס.
"כשהחל שימוש ברכב ממונע בניו יורק, אדם צעד עם דגל אדום לפני הרכב כדי להזהיר שלא מדובר בכרכרה וסוס. אנשים חששו מהרכב הממונע. בסוף, צוואר הבקבוק של העתיד הטכנולוגי אינו מהירות המעבדים, אלא קצב הסתגלות הנפש האנושית"
"זה טבע האדם: אנחנו חשדנים וזקוקים לזמן הסתגלות לדברים חדשים. כשהחל שימוש ברכב ממונע בניו יורק, היה נהוג שאדם צעד עם דגל אדום לפני הרכב כדי להזהיר שלא מדובר בכרכרה שמובלת ע"י סוס. אנשים חששו מהרכב הממונע. כך שלבסוף, צוואר הבקבוק של העתיד הטכנולוגי אינו מהירות המעבדים או יכולת החישוב, אלא קצב ההסתגלות של הנפש האנושית".
