ימים ספורים בלבד לאחר השקתו לציבור, מודל הבינה המלאכותית Fable 5 של אנתרופיק הושבת בהוראת הרשויות האמריקניות בעקבות חשש כי נמצאה דרך לעקוף את מנגנוני ההגנה שלו. בתגובה, הגישה אנתרופיק תביעה נגד הפנטגון ובית המשפט הפדרלי, בטענה כי לא ניתן לאכוף בשלב זה את ההנחיה, ולכן סוכנויות ממשלתיות וגופים העובדים עם צבא ארה"ב עדיין רשאים להשתמש במוצריה.
האירוע החריג ממחיש עד כמה היכולות החדשות של מודלי AI מתקדמים מציבות בפני התעשייה והרגולטורים אתגר חסר תקדים - כיצד ליהנות מעוצמתם, מבלי לאבד שליטה על הסיכונים שהם מייצרים.
אחד ממייסדי קלוד: "קיימת אפשרות ממשית שה-AI יחליף כוח עבודה אנושי" // רויטרס
לא עוד האקר בודד
בר מנחם, מנהל בכיר בקבוצת המחקר, ומולי לוי, ראש צוות אנליסטים בחברת אימפרבה-תאלס, סבורים כי Fable 5 מייצג את קפיצת המדרגה הטכנולוגית המשמעותית ביותר של השנה. לדבריהם, אף שאנתרופיק בנתה במודל החדש חסמי בטיחות קשוחים, הוא עדיין מבוסס על ארכיטקטורת Mythos, המסוגלת לבצע ניתוח עומק של קוד, לזהות חולשות מורכבות ולמפות באופן אוטומטי נתיבי תקיפה.
עם זאת, הם מדגישים כי מימוש מלוא היכולות הללו דורש משאבי מחשוב ותקציבי עתק, ולכן האיום המיידי לא צפוי להגיע מהאקרים מזדמנים, אלא מקבוצות תקיפה מתקדמות.
"הנקודה המשמעותית ביותר היא קיצור דרמטי של זמן התגובה", הם אומרים. "ברגע שהארכיטקטורה הזו מזהה חולשה, קצב יצירת קוד התקיפה והפצתו לרשת הוא עניין של דקות בודדות. במצב כזה, חלון הזמנים של מגיני הסייבר נסגר כמעט לחלוטין. היתרון המובהק בשוק יעבור לחברות אבטחה שיודעות להציב בינה מלאכותית מול בינה מלאכותית, ובכך לצמצם את פער הזמנים באמצעות אוטומציה מלאה של תהליך ההגנה".
עידן ה-"Detect and Respond" כבר לא מספיק
רועי אקרמן, סמנכ"ל אסטרטגיית אבטחת זהויות בחברת Silverfort, סבור שהשינוי המרכזי אינו בהכרח בתחכום חסר תקדים, אלא במהירות הפעולה. "כפי שבינה מלאכותית הפכה כמעט כל אדם למפתח אפליקציות, המודל החדש של אנתרופיק מקנה לכל אדם יכולות של האקר מתוחכם, שהיו שמורות בעבר רק לשחקנים מדינתיים", הוא אומר. לדבריו, אנתרופיק אפשרה גישה מוגבלת ומבוקרת לחברות מובילות כדי שיוכלו להיערך מראש להשלכות הטכנולוגיה.
מהניסיון של סילברפורט בעבודה עם ארגונים גדולים שכבר בחנו את המודל בסביבות אמיתיות, עולה כי היתרון המרכזי של מודלי AI מסוג זה הוא היכולת לפעול במהירות יוצאת דופן ולתקוף ממספר רב של מקומות באופן סימולטני.
"הפעילות מהירה כל כך עד שמערכות אבטחה של חברות שעד כה הובילו את השוק אינן מתמודדות עימה, משום שהן הניחו שיהיו מרווחי זמן שיאפשרו לזהות את האיום ולהגיב", אומר אקרמן. "גישת ה'Detect and Respond' - זיהוי איומים ותגובה אליהם, שעליה נשען עולם הסייבר במשך שנים, כבר אינה מספקת הגנה אפקטיבית".
לדבריו, בעולם שבו התוקף פועל במהירות שיא, גם ההגנה חייבת לפעול בזמן אמת באמצעות מנגנונים מהירים ורפלקסיביים, המסוגלים להבין אם בקשת גישה מגיעה מאדם, ממכונה או מסוכן AI, להעריך את רמת הסיכון שלה ולחסום פעילות חריגה עוד לפני שהגישה מאושרת.
מהגנה תגובתית להגנה שמרפאת את עצמה
לדברי אייל רחימי, סמנכ"ל פיתוח בחברת MazeBolt, עידן ה-AI מחייב שינוי עמוק באופן שבו ארגונים חושבים על אבטחת מידע. "בעולם שבו הבינה המלאכותית מאיצה באופן משמעותי את גילוי החולשות ומאפשרת לזהות בתוך רגעים בודדים את דרכי התקיפה היעילות ביותר עבור כל סביבה, ארגונים נדרשים לשנות את תפיסת ההגנה שלהם", הוא אומר.
לדבריו, השלב הראשון הוא מעבר מתגובה למתקפות לבדיקות ואימות מתמשך עוד לפני שהתקיפה מתרחשת. אולם בקצב שבו יפעלו התוקפים בעידן הAI גם זה כבר אינו מספיק. "השלב הבא הוא מעבר לפתרונות Self-Healing Security, שבהם מערך ההגנה מסוגל לא רק לזהות חולשות אלא גם לבצע התאמות ותיקונים באופן אוטומטי ובמהירות גבוהה. זהו החזון שעליו אנחנו עובדים ב-MazeBolt בשנים האחרונות: לאפשר למערכות ההגנה מפני מתקפות DDoS להגדיר, לכייל ולשפר את עצמן באופן רציף בהתאם לסביבה, לתצורה ולחולשות שמתגלות בזמן אמת".
הצורך הזה בולט במיוחד בתחום ה-DDoS, שבו הצלחת התקיפה אינה נובעת בדרך כלל מניצול פרצת תוכנה, אלא מהיכולת לעקוף מנגנוני הגנה באמצעות חולשות בהגדרות, במדיניות או בתצורת ההגנה. "בינה מלאכותית מאפשרת לתוקפים למפות במהירות אילו מנגנונים צפויים להיכשל, לבחון אינספור וריאציות של מתקפה ולבנות שיטות תקיפה המותאמות במדויק לסביבת היעד", הוא מסביר.
"במציאות הזו ארגונים אינם יכולים להסתפק עוד בהגנה סטטית או בבדיקות תקופתיות. הם חייבים לוודא באופן רציף שההגנות שלהם ערוכות לא רק לאיומים המוכרים של היום, אלא גם למתקפות חדשות שנוצרות, משתנות ומתפתחות בקצב של הבינה המלאכותית".
AI מול AI
האירועים סביב Fable 5 ממחישים כי השאלה כבר אינה האם בינה מלאכותית תשנה את עולם הסייבר, אלא באיזו מהירות. כאשר הזמן שחולף בין איתור חולשה לבין ניסיון לנצל אותה נמדד בדקות בודדות, גם מערכי ההגנה נדרשים לפעול באופן אוטונומי, רציף ובזמן אמת. בעולם החדש שנוצר, היתרון כבר לא יהיה בידי מי שיזהה ראשון את האיום - אלא בידי מי שיצליח לאפשר למערכות ההגנה שלו ללמוד, להסתגל ולתקן את עצמן במהירות של הבינה המלאכותית עצמה.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו