תתחילו לפחד מה-AI: קלוד Mythos הוא לא סתם עוד "שדרוג"

האם תוכנות הבינה המלאכותיות החדשות כדוגמת קלוד Mythos של אנתרופיק (Anthropic) מייצרות אתגר חדש לחברות הטכנולוגיה והמידע ברחבי העולם? על פי איש ההייטק ולאד קורסונסקי, מנהל Tenable ישראל ו-CTO של Tenable העולמית, התשובה לכך היא חיובית. לדבריו, החשיפה הראשונית של Mythos חושפת מציאות ולפיה התוכנה תסייע יותר לתוקפי סייבר מאשר לחברות עצמן. זאת משום שכשמתגלות חולשות שניתן לנצל בהיקף נרחב, "צוואר הבקבוק כבר אינו הגילוי עצמו, אלא כל מה שצריך לעשות לאחר מכן". לדבריו "קלוד Mythos הוא לא עוד שיפור הדרגתי - זו קפיצת מדרגה מהותית ביכולת של מודל AI לבצע מחקר אבטחה אוטונומי. מה שהופך אותו ליוצא דופן הוא השילוב של שלוש יכולות: הוא מסוגל לאתר חולשות מורכבות - הכי מורכבות עד כה - לא רק דפוסים מוכרים, אלא שרשראות של החלטות תכנוניות שיוצרות פרצת אבטחה". שנית, הוא מצליח לאתר חולשות Zero-Day בקוד שעבר עשורים של ביקורת אנושית ומיליוני בדיקות אוטומטיות. שלישית, הוא מסוגל לא רק למצוא את הפרצה, אלא גם להצליח לנצל אותה בפועל. "העובדה שאנתרופיק הקימה את יוזמת Project Glasswing במקביל להשקה, במטרה לרתום את היכולות האלה להגנה, מעידה על החומרה שהם עצמם מייחסים לכלי הזה. כשיו"ר הפדרל ריזרב מזמן את מנכ"לי הבנקים הגדולים בארה"ב לדון בהשלכות האבטחה של מודל AI ספציפי - זה כבר לא סיפור טכנולוגי, זה סיפור של סיכון מערכתי רחב היקף", מסביר קורסונסקי. איך מודלים כמו Mythos משנים את צוואר הבקבוק באבטחת מידע? "Mythos מצטיין בגילוי החולשות", מסביר קורסונסקי. "אבל ברגע שהוא מזרים אלפי חולשות חדשות למערכת אלו הופכות לצוואר בקבוק קטלני. אפשר לחשוב על זה כך: בעוד שהסטנדרט בתעשייה (כגון ציון CVSS) מסמן 60% מהחולשות כ'קריטיות' או כאלו 'בסיכון גבוה', רק 1.6% מהן מהוות סיכון אמיתי בפועל לארגון בעולם האמיתי. בעולם שבו Mythos יכול להכפיל פי 10 את מספר החולשות המתגלות, ההבדל בין 60% ל-1.6% הוא ההבדל בין קריסה אופרטיבית של מערכי האבטחה וה-IT לבין הגנה אפקטיבית". קורסונסקי אומר כי התוכנה החדשה עלולה לייצר נזקים ברמה אפוקליפטית למערכות השונות. לדבריו, "עד היום, גילוי חולשה חדשה דרש חוקר חולשות מיומן, זמן רב, ומשאבים. זה האט את קצב ההתקפות. Mythos מקצר משמעותית את מימד הזמן. תוקף עם גישה למודל דומה יכול לייצר חולשות עובדות בתוך דקות, לא חודשים". המשמעות המעשית, אומר קורסונסקי, היא תשתיות קריטיות - בנקאות, אנרגיה, בריאות, תחבורה - אשר מריצות מערכי תוכנה מורכבים וחלקם גם מיושנים מאוד, הופכות לשדה ציד. "כל אותן חולשות ש'שרדו' שנים של ביקורת אנושית כי היו מורכבות מדי לגילוי, חשופות כעת. לכן ארגונים שימשיכו לעבוד בפרדיגמה הישנה פשוט לא ישרדו את גל החולשות הבא". עוד הוא אומר כי "מי שיצא מהמשבר הזה חזק יותר הם הארגונים שיבצעו שלושה מהלכים במקביל: מעבר מהגנה תגובתית להגנה מונעת, הכנסת אוטונומיה הולכת וגוברת לתהליכי האבטחה, ואימוץ מבט הוליסטי שמכסה את כל משטח התקיפה". בכל הקשור לדברים שניתן לעשות כדי להתמודד עם המנוע החדש, קורסונסקי מסביר כי "העיקרון המנחה פשוט: להילחם ב-AI באמצעות AI. אם התוקפים מפעילים סוכנים לגילוי חולשות, ההגנה חייבת לפעול באותה מהירות". כאן, אומר קורסונסקי, המפתח הוא תעדוף. "גם כשמספר החולשות גדל פי עשרה, אי אפשר לתקן אלפי פגיעויות אבטחה בו-זמנית על פני מאות אלפי נכסים בארגון. צריך לדעת בדיוק אילו חולשות יוצרות נתיב תקיפה אמיתי לנכסים הקריטיים - ולהתמקד בהן. כמו כן שנית, דרושה הגנה דטרמיניסטית. כשאתם מדווחים לרגולטור או למאבטח הסייבר, צריך תשובה ודאית: האם השרת הזה פגיע או לא. לכן מנגנוני ה-AI, שמאיצים את כל תהליכי העבודה, חייבים להתקיים על בסיס מוצק". עוד הוא מוסיף כי יש להתכונן לאירוע אבטחה שיגיע, לפתח תכניות התמודדות עם אירוע, להניח שהתוקף כבר בפנים, למפות את נתיבי התקיפה האפשריים מראש, להקשיח ולבדוק קודם כל את הנכסים הקריטיים ביותר בארגון. להיכן הולך עולם ה-AI, בדגש על הסוכנים? "אנחנו בתחילתו של מעבר עמוק. מ-AI כ''כלי שאנחנו שואלים שאלות פשוטות' ל-AI כ'סוכן שפועל'. ההבדל הוא תהומי. סוכן AI לא עונה על שאלה - הוא מקבל מטרה, מפרק אותה למשימות, מבצע פעולות במערכות חיות, מעריך תוצאות, ומתקן מסלול. הוא עובד דיגיטלי עם יכולות על-אנושיות שלא מתעייף לעולם". צריך להוסיף כי מודלים וסוכני AI הם משטח התקיפה הצומח הכי מהר בארגונים. כל סוכן שמקבל גישה למערכות ארגוניות הוא זהות חדשה עם הרשאות, לעיתים ברמת מנהל. אם לא יודעים אילו סוכני AI רצים בסביבתכם, למה יש להם גישה, ומי אחראי עליהם - ישנה בעיית משילות ואבטחה מהותית. "זה לא תיאורטי", אומר קורסונסקי. "אנחנו כבר רואים ארגונים שבהם סוכני AI עוקפים בקרות אבטחה לגיטימיות, כי הם פועלים בהרשאות שאף אחד לא חשב שצריכות ביקורת. ארגונים שלא יתכוננו לזה, ימצאו את עצמם עם 'עובדים' דיגיטליים ואפליקציות מורכבות מאוד שפועלות ללא פיקוח - וזה מתכון לאסון". מדוע ארגונים לא יכולים כבר להסתמך על מודל גילוי החולשות המסורתי? "המודל הישן עבד כך: סרוק, קבל רשימה של חולשות, תתחיל לטפל לפי סדר החומרה שלהן", מסביר קורסונסקי. "כל שלוש ההנחות האלה קורסות עכשיו. מספר החולשות מתפוצץ, לכן תוקפים לא מנצלים חולשה בודדת. הם משרשרים מספר חולשות, תצורות שגויות, והרשאות עודפות לנתיב תקיפה שלם. התהליך להתמודד עם המצב הוא Exposure Management, כיוון שהוא פותר את שלוש הבעיות הללו בגישה אחידה. במקום לשאול 'אילו חולשות יש לנו?', הוא שואל 'איזה נתיב הכי קצר יש לתוקף לנכסים הקריטיים שלנו, ואיך חוסמים אותו?'". מה זה אומר? "זה אומר תעדוף לפי הקשר ארגוני אמיתי", מסכם קורסונסקי. "האם הנכס נגיש דרך רשת? אילו הרשאות יורש? האם הוא קריטי עסקית? אילו חולשות מצטרפות אליו ליצירת נתיב? בעידן של Mythos, אין ברירה אחרת. כשקצב גילוי החולשות עולה פי עשרה וחלונות התחזוקה נשארים זהים, היכולת לסנן את ה-1.6% שבאמת מסכנים את הארגון היא לא יתרון - היא תנאי הישרדות. ארגונים שימשיכו לספור חולשות יטבעו בים של התראות. ארגונים שיבינו שהם מגנים על נתיבי תקיפה - עם הקשר טופולוגי מלא, מדיניות ברורה וכלים שמתאימים למהירות של AI - הם אלה שיישארו עומדים".טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו