דליפת השיחות מהצ'אטבוט "גרוק" של xAI, שחשפה בפומבי מאות אלפי שיחות פרטיות ברשת, ממחישה עד כמה רגיש עשוי להיות המידע שזורם אל ותוך מערכות AI – ועד כמה עדיין שברירית ההגנה עליהן.
במקרה זה היו אלו בעיקר שיחות חולין של משתמשים פרטיים עם הצ'אטבוט שלהם, אך אפשר לדמיין בקלות כיצד הייתה עלולה להתנהל דליפת מידע שכזו ממערכת AI של בית חולים, בנק או משרד ממשלתי.
כמו כל אירוע של כשל באבטחת מידע, הדליפה מגרוק עשויה להיות עוד אירוע מכונן שממחיש את הצורך הבוער בתחום המתפתח במהירות של אבטחת AI.
לאורך ההיסטוריה הדיגיטלית שלנו, כל טכנולוגיה חדשה לא רק חוללה מהפכה עסקית, אלא גם יצרה צורך מיידי בהגנה ייחודית - ואת חברות הסייבר שיספקו אותה. כך, עם הופעת הדפדפנים נולדו פתרונות ההגנה לאינטרנט, שהצמיחו חברות מצליחות כמו צ'ק פוינט ו-Symantec. עליית הסמארטפונים פתחה את שוק אבטחת המובייל, עם שחקניות סייבר כמו Zimperium ו-Kaymera, והמעבר לענן ביסס בעשור האחרון את הצורך באבטחת הענן, אחד הסגמנטים הגדולים בתעשייה שהוליד חברות ענק כמו פאלו אלטו ומטאורים דוגמת Wiz.
כעת, עם החדירה המואצת של בינה מלאכותית לכל תחום, נולד צורך בוער בהגנה על יצורים דיגיטליים חדשים - מודלי שפה, צ'אטבוטים וסוכני AI. מתוך הצורך הזה מתהווה בתעשיית הסייבר גל חדש של חברות שמתמחות באבטחת בינה מלאכותית (Security for AI).
זה שוק המתפוצץ בקצב כמעט חסר תקדים, שבו עשרות חברות חדשות מזנקות עם גיוסים מהירים והכנסות שמטפסות במסלול תלול - והסייבר הישראלי הוא חלק משמעותי בגל הזה.
אורן יונגר, שותף מנהל בקרן האמריקנית Notable Capital, המשקיעה בחברות בשלבים מוקדמים, בין היתר בתחומי ה-AI והסייבר, מכיר את ההייפ מהצד של קהילת ההון-סיכון, שמזרימה הון רב לחברות הסייבר בתחום. לדבריו, "זה גל עצום, אולי הכי אגרסיבי שראינו מאז הענן. הרבה סטארטאפים מזהים את הצורך הזה וצומחים סביבו. חברות צעירות מגיעות לקצב הכנסות שנתי של יותר מ-100 מיליון דולר במהירות".
הביזנס רוצה AI, מנהלי האבטחה רוצים הגנה
הקטליזטור ברור: ארגונים מכל הענפים - פיננסים, בריאות, ממשל ותעשייה - מאמצים מודלי שפה ומערכות AI כדי לייעל שירותים ולבצע אוטומציה. אולם האימוץ המהיר פותח דלת לאיומים חדשים לגמרי: מתקפות Jailbreaking משכנעות את המודל באמצעות מניפולציות רטוריות לבצע פעולות שאסור לו, ב-Prompt Injection משתילים התוקפים בסתר הוראות זדוניות בתוך בקשות תמימות לכאורה, וב-Data Poisoning ניתן לזהם את מערכי האימון כך שהמודל עצמו לומד להטעות כבר מהיסוד.
משום שהמודלים הללו פועלים בשפה טבעית - כל מי שיודע לנסח משפט יכול להפוך לתוקף.
"אימוץ ה-AI הוא חסר תקדים. 80% מהארגונים כבר מתכננים להכניס סוכני AI, וזה לא מגיע רק מהאנשים הטכנולוגים אלא מכלל המחלקות, מההנהלות ומהדירקטוריונים", אומר יונגר. "מי שלא נכנס עכשיו מסתכן בלא להיות רלוונטי. אנחנו בשלב המעבר מניסויים לשימוש חי ופעיל, אבל השאלה הגדולה היא כיצד מטמיעים AI בצורה מאובטחת".
סקרים עדכניים בקרב מנהלי אבטחת מידע בארגונים (CISO) חושפים מתח קבוע: הנהלות דוחפות קדימה, בעוד אנשי האבטחה מזהירים מפרצות ורגולציה. מחקר של Accenture מצא שכמעט 80% מהארגונים עדיין חסרי שכבת הגנה בסיסית למודלים. המשמעות ברורה - אבטחת AI היא כבר לא תוספת, אלא תנאי סף לאימוץ אמיתי של בינה מלאכותית, אחרת היא הופכת ל"חוליה החלשה" של הארגון.
תזוזות טקטוניות בתעשיית הסייבר
הטלטלה הזו ניכרת גם במבנה התעשייה עצמה. יש חברות מבוססות שמבצעות מיקוד מחודש בתחום ה-AI, כמו למשל Cyera הישראלית, שהוקמה ב-2021 כחברת אבטחת דאטה לענן, וביצעה בשנתיים האחרונות מעבר חד לתחום החדש, שכלל התמקדות בממשק שבין דאטה לבינה מלאכותית בארגון והגנה על זרימת נתונים למודלים. הפיבוט הזה הוביל את החברה לגיוסי ענק בהיקף של מאות מיליוני דולרים, ולשווי עדכני שהוכפל בתוך חודשים לכ-6 מיליארד דולר.
לצידן צומחות שחקניות חדשות בתחום, כמו Noma Security, שנוסדה ב-2023 ונולדה ישירות אל תוך עידן ה-GenAI עם מיקוד בהגנה על סוכני AI.
בחזית השלישית נמצאות ענקיות ותיקות כמו פאלו אלטו, שרכשה את Protect AI בכ-700 מיליון דולר, ו-SentinelOne, שרכשה את Prompt Security בכ-250 מיליון דולר.
הכוכבת הישראלית
כאמור, אחת מהכוכבות הבולטות בתחום היא Noma Security, שנוסדה על ידי המנכ"ל ניב בראון וסמנכ"ל הטכנולוגיות אלון טרון ושמפתחת פלטפורמה כוללת לאבטחת סוכני AI - סוכנים אוטונומיים שמבצעים פעולות קריטיות במערכת הארגונית. עד כה היא גייסה 132 מיליון דולר, לפי שווי לא רשמי המוערך ב-400 מיליון דולר, מה שהופך אותה לאחת החברות המובילות בעולם בתחום אבטחת ה-AI ולאחת מחברות הסייבר הישראליות שצמחו הכי מהר מאז Wiz.
"קמנו לתוך מהפיכת ה-AI. אני מגיע מעולם הסקיוריטי ואלון מגיע מעולם ה-AI, ומתוך הממשק הזה קמה החברה", מספר בראון. "זו הטכנולוגיה שזוכה לאימוץ הכי מהיר בהיסטוריה. זה גם מייצר סיכונים. המטרה שלנו, כחברת סייבר, אינה להאט את האימוץ, אלא לאפשר אותו. התחום מתפתח במהירות, וזה גם מחייב אותנו להתפתח במהירות".
כמו בכל תחום סייבר, גם באבטחת בינה מלאכותית קיימות שלוש שכבות הגנה מרכזיות: וויזיביליות, שתאפשר לארגון למפות את מכלול המודלים והסוכנים הפועלים במסגרתו, זיהוי חולשות יזום במודלים וסוכנים, בין היתר באמצעות מודלי AI שבודקים מודלי AI, וניטור בזמן אמת וזיהוי התקפות ואנומליות ברגע התרחשותן. שילוב מלא של שלוש השכבות מספק הגנה אמיתית, והמרוץ לאחד אותן מזין את הצמיחה המואצת של תחום ה־AI Security, תוך שהוא מאלץ גם את ענקיות הסייבר לעצב מחדש את ארכיטקטורת האבטחה שלהן.
Noma כבר משרתת עשרות לקוחות, בהם חברות Fortune 500, ומציגה האצה בהכנסות. "התפקיד שלנו הוא קודם כול לסייע לארגונים להבין אילו מודלים וסוכנים פעילים, מה ההרשאות שלהם ולאיזה מידע או רשתות הם ניגשים", מסביר בראון. "היום, כל עובד יכול לייצר סוכן ארגוני בלחיצת כפתור, וזה עלול לחשוף מידע רגיש או חיבורי רשת קריטיים. אצל אחד הלקוחות שלנו, תוך יומיים נוצרו אלפי סוכנים, ללא שליטה ובקרה. הפתרון שלנו מאפשר לראות, לנהל ולנטר את כל זה בזמן אמת".
"ישראל נמצאת בחוד החנית"
בישראל פועלות עוד כמה חברות מבטיחות בתחום אבטחת הבינה המלאכותית, כמו Lasso Security, שממוקדת באבטחת מודלי שפה גדולים; Aim Security, שמספקת פלטפורמה הוליסטים לניטור וניהול GenAI בארגונים; או AI Tonic Security, שגייסה באחרונה 7 מיליון דולר בסבב סיד.
ומובן שיש כבר אקזיטים: Promt Security, שהוקמה ב-2023, גייסה כ-23 מיליון דולר, פיתחה פלטפורמה לאבטחת GenAI בארגונים, ונרכשה בתחילת החודש בידי SentinelOne בסכום המוערך ב-250 מיליון דולר.
יחד, החברות הללו מציבות את ישראל כאחד המרכזים הדינמיים בעולם בתחום AI Security, עם שילוב של חדשנות טכנולוגית וקצב צמיחה מהיר שמושך עניין ממשקיעים. חולקוחות גלובליים.
"ישראל נמצאת בחוד החנית של התחום החדש הזה. כמו שהחברות בתחום ה-AI צומחות בקצבים מסחררים, כך גם הסקיוריטי יצמח, בקצבים שלא ראינו מעולם. יהיו פה חברות עצומות, ה-Wiz וה-Orca הבאות, והמשקיעים כבר מוכנים לשלם את הפרימיום", מסכם יונגר מ-Notable Capital.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו