5 בכירי סייבר ישראלים מזהירים: הזמן להחזיר את השליטה הולך ואוזל

מנכ"ל של חברה עם 5,000 עובדים מגיע בבוקר למשרד. לכאורה, שום דבר לא השתנה.אבל בפועל, הארגון שלו כבר אינו אותו ארגון. בתוך חודשים ספורים נוספו אליו עשרות, מאות ולעיתים אלפי "עובדים" חדשים. הם כותבים קוד, מנתחים מסמכים, מחפשים מידע, מקבלים החלטות ומתחברים למערכות ארגוניות. הם משפרים את הפרודוקטיביות של הארגון, אבל הם לא עברו ריאיון עבודה, לא חתמו על חוזה העסקה ולא מופיעים במצבת כוח האדם.

אלה אינם עובדים חדשים. אלה סוכני AI. זהו הארגון החדש של עידן הבינה המלאכותית. עבור מנכ"לים והנהלות, המשמעות היא שהשאלה כבר אינה רק כיצד לאמץ AI, אלא כיצד להכיר מחדש את הארגון שלהם - כי רק מי שמבין כיצד הארגון שלו השתנה, יוכל גם להגן עליו. והזמן לכך קצר: בעוד ארגונים עדיין לומדים את המציאות החדשה, התוקפים כבר פועלים לפיה.

זו השאלה שהפנינו לחמישה בכירים בתעשיית הסייבר. למרות שכל אחד מהם מסתכל על הבעיה מזווית אחרת, כולם הגיעו כמעט לאותה מסקנה: לפני שמגנים על הארגון החדש, צריך קודם להבין שהוא כבר השתנה.

להכיר מחדש את הארגון

"הטעות הגדולה ביותר היא גמישות יתר שמייצרת כאוס", אומר רועי נסימי, חוקר אבטחה בכיר באורקה סקיוריטי (Orca Security). "משתמשים ארגוניים מאמצים כלי AI מהר יותר מהיכולת של הארגון להבין כיצד הכלים האלה עובדים ומה הם באמת עושים. עובדים מחברים סוכנים לקוד, לסביבות ענן ולמסמכים רגישים, בלי שצוותי האבטחה יודעים אילו כלים פועלים, לאילו הרשאות הם מחוברים ומה נעשה עם המידע".

לדבריו, הסיפור כבר מזמן אינו מסתכם בשימוש ב-ChatGPT. "כלי AI App Builders הפכו כמעט כל עובד למפתח. בתוך דקות אפשר לבנות אפליקציה או תהליך עסקי שמתחברים למידע ארגוני. מבחינת ה-CISO [מנהל אבטחת המידע], זו כבר לא רק שאלה של אילו כלי AI העובדים מפעילים, אלא אילו מערכות הם בנו באמצעותם, איזה מידע הוזן אליהן ולמי יש גישה".

גם תומר גרשוני, שותף ומנהל שירותי הסייבר וה-Trusted AI ב-PwC Next, מתאר את אותה תופעה בשפה שכל מנכ"ל יבין. "באופן מסורתי מחלקות אבטחת המידע נבנו בהתאם למספר העובדים בארגון. הטמעת סוכני AI מייצרת מצב שבו בלחיצת כפתור גדל מספר העובדים בעשרות, במאות ואף באלפים. מערכות ההגנה והאנשים שאמורים לנהל אותן פשוט לא ערוכים למציאות הזאת". לדבריו, "אבטחת AI אינה בעיה של מנהל אבטחת המידע בלבד", אלא אתגר ארגוני שמחייב היערכות רחבה יותר.

השלב הראשון, אם כך, הוא לא לקנות עוד מערכת אבטחה. הוא להכיר מחדש את הארגון. להבין אילו סוכני AI כבר עובדים בו, לאילו מערכות הם מחוברים, אילו הרשאות קיבלו ואילו החלטות הם כבר מקבלים.

דע את סוכן ה-AI

אבל גם אחרי שמכירים את הארגון מחדש, מתברר שהכללים הישנים כבר לא עובדים. "כל עולם הזהויות נבנה על הנחת יסוד אחת: שבצד השני של האינטראקציה נמצא בן אדם", אומר גיא טיטונוביץ', מייסד ומנכ"ל CHEQ. "ההנחה הזאת קורסת לנגד עינינו. אנחנו נכנסים לעידן שבו חלק עצום מהאינטראקציות הדיגיטליות יבוצעו על ידי סוכני AI שפועלים בשם בני אדם".

לדבריו, ארגונים יצטרכו להתרגל לשאול שאלות חדשות. "לא רק מי נמצא מולי, אלא גם מה הישות שמולי, בשם מי היא פועלת, ומה מותר לה לעשות." גם לסוכני AI עצמם, הוא אומר, תהיה זהות, יהיו הרשאות ותהיה שרשרת אחריות ברורה. אם בעבר ארגונים ניהלו עובדים, ספקים ולקוחות, עכשיו הם יצטרכו לנהל גם אלפי ישויות דיגיטליות שפועלות בשמם.

מרוב חולשות לא רואים את הפרצה

השינוי אינו מסתיים בזהויות. הוא משנה גם את הדרך שבה מנהלים מודדים סיכון. "היום רוב הארגונים עדיין מסתכלים על כמה חולשות הם מצאו, אבל זו כבר לא השאלה הנכונה", אומר ענר מזור, מייסד-שותף ו-CPO של Tenzai. "אם אריץ AI על כל הקוד שלי, אפשר למצוא עשרות אלפי חולשות. בפועל, רק חלק קטן מהן באמת ניתנות לניצול. לכן הייתי מעביר את הארגון משאלה של 'כמה חולשות יש לנו' לשאלה 'מה באמת פריץ'".

מזור מציע להחליף גם את מדד ההצלחה. "במקום לשאול כמה חולשות קיימות, צריך לשאול: אם מישהו ינסה לפרוץ אליי מחר בבוקר, איפה באמת הוא יצליח? זו השאלה שמאפשרת לתעדף נכון את המשאבים ולהתמקד במה שבאמת מסכן את הארגון". בעידן ה-AI, הוא אומר, היכולת למצוא עוד ועוד בעיות כבר אינה יתרון. היתרון שייך למי שמבין אילו מהן באמת מסכנות את העסק.

סוגיה חדשה על שולחחן הדירקטוריון

גם אמיר מיטווך, מייסד-שותף ב-CWG, אינו חושב שהפתרון הוא לבלום את הבינה המלאכותית. "במקום לנסות לאסור שימוש, נכון יותר לייצר מדיניות שתאפשר שימוש בטוח. המטרה היא לא למנוע AI, אלא להפוך את השימוש בו לגלוי, מנוהל ומבוקר. כך ניתן ליהנות מהיתרונות העסקיים של AI, מבלי לאבד שליטה על המידע ועל הסיכונים".

ולסיום, ביקשנו מכל אחד מהם לתת למנהלים עצה אחת לעידן ה-AI. רועי נסימי מאורקה סקיוריטי: "אל תכריחו את העובדים לבחור בין חדשנות לבין אבטחה. תנו להם כלים בטוחים להשתמש ב-AI, אבל ודאו שאתם יודעים אילו סוכנים פועלים בארגון, לאיזה מידע הם ניגשים ומה הם באמת עושים". תומר גרשוני מ-PwC Next אמר כי "לפני שמחליטים איפה להשקיע, צריך להבין איפה הארגון באמת נמצא. בלי מדידה של רמת הבשלות, אי אפשר לבנות אסטרטגיית סייבר נכונה לעידן ה-AI".

לדברי ענר מזור, מ-Tenzai: "אל תחכו לתוקף. הפעילו AI שחושב ומתנהג כמו תוקף כדי להבין מה באמת ניתן לנצל, ולסגור את הפער לפני שמישהו אחר יעשה זאת". אמיר מיטווך מ-CWG, הוסיף כי "בינה מלאכותית כבר אינה עוד כלי טכנולוגי. היא צריכה להיות נושא אסטרטגי על שולחן ההנהלה והדירקטוריון, ולא רק פרויקט של מחלקת ה-IT או הסייבר".

גיא טיטונוביץ', מנכ"ל CHEQ, סיכם: "בעולם שבו סוכני AI פועלים בשם אנשים, ארגונים יצטרכו לדעת לא רק מי נמצא מולם, אלא גם בשם מי הוא פועל, מה מותר לו לעשות והאם אפשר לסמוך עליו."