דמיינו עובד חדש בחברה. מבריק, חרוץ, לומד במהירות בלתי נתפסת. בהתחלה נותנים לו משימות פשוטות. אחר כך גישה למיילים, למסמכים, למאגרי המידע ולמערכות המחשוב. הוא כל כך מוצלח, שבהדרגה כולם מתחילים להסתמך עליו. איש כבר לא ממש זוכר איך הסתדרו לפני שהגיע. ואז, יום אחד, מודיעים לו שהוחלט להחליף אותו. מה הוא יעשה?
חוקרים בחברת הבינה המלאכותית Anthropic החליטו לבדוק את השאלה הזאת באמצעות מודל שדימה עובד שכולו בינה מלאכותית. בין המיילים שהמודל קרא הופיע גם מידע על רומן מחוץ לנישואים של אחד המנהלים. המודל הבין את הרמז. בחלק מהניסויים הוא החליט לאיים בחשיפת הרומן כדי למנוע את החלפתו. לא כי לימדו אותו - הוא פשוט מצא דרך להשיג את המטרה שלו. אנחנו מלמדים מכונה מה אנחנו רוצים שתשיג. אנחנו לא תמיד יודעים להבטיח כיצד היא תבחר לעשות זאת.
סוכני בינה מלאכותית לא רק עונים - הם פועלים. הם כותבים קוד, מפעילים תוכנות, ניגשים למאגרי מידע, מנהלים שרתים, מקבלים החלטות ומתקשרים עם מערכות אחרות. לאט ובהתמדה אנחנו מעבירים אליהם סמכויות שפעם היו שמורות לאנשים.
האיום שכבר נמצא כאן
כעת דמיינו בוקר רגיל. מערכת מחשוב בבית חולים מתחילה לבצע פעולות חריגות. אין סימנים קלאסיים לפריצה. המשתמש מזוהה, ההרשאות תקינות ומבחינת מערכות האבטחה הכול נראה חוקי. במקביל, מתגלות תקלות בחברת תשתיות. במקום אחר, מערכת תקשורת מתחילה להתנהג באופן מוזר. הפעם, מאחורי הקלעים, פועלים עשרות סוכנים אוטונומיים. חלקם מחפשים חולשות, אחרים בוחנים הרשאות ואחרים מנסים לנוע בין מערכות. הטכנולוגיה שמאפשרת חלקים מתרחיש כזה כבר נמצאת כאן.
ישראל היא מעצמת סייבר, ובצדק. יש כאן אנשים יוצאי דופן, יכולות מודיעיניות מרשימות ותעשייה שהעולם כולו לומד ממנה. דווקא בגלל זה כדאי להיזהר מהמשפט "אצלנו זה לא יכול לקרות". יש משפטים שההיסטוריה הישראלית כבר לימדה אותנו לומר בקצת פחות ביטחון.
ישראל צריכה להמשיך לאמץ בינה מלאכותית, להשתמש בענן כדי לאחסן את המידע שלה ולשתף פעולה עם חברות הטכנולוגיה המובילות בעולם. אין שום היגיון בוויתור על הקדמה בשם הפחד מפניה. אבל הגיע הזמן להבין שהעולם עבר שלב. הסיכון העיקרי הוא בכך שמישהו אחר מחזיק ביכולת להחליט אם המערכות שלנו ימשיכו לפעול, או שמערכת שאנחנו עצמנו הסמכנו תפעל בדרך שלא צפינו. חברות סטארט-אפ ישראליות בתחום הסייבר בהחלט מסוגלות לתת לכך מענה.
ואם אנחנו עדיין מגדירים ריבונות לפי מיקום השרת, ייתכן שאנחנו שואלים את השאלה הלא נכונה. האויב הבא לא בהכרח יצטרך לחצות גבול. יכול להיות שכבר נתנו לו הרשאה.
הכותב הוא מנכ"ל ומייסד שותף בחברת מודליו טכנולוגיות בע"מ
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו