בקהילת אבטחת המידע העולמית מתנהל בשנתיים האחרונות מרוץ חימוש שקט ומורט עצבים: האם מודלי הבינה המלאכותית המתקדמים ישמשו כחומת מגן בלתי חדירה, או שמא יהפכו לנשק פריצה אוטונומי שימוטט את התשתיות הדיגיטליות של העולם? התשובה של OpenAI לשאלה הזו, שנחשפה אתמול (שבת), מבהירה עד כמה הגבול הזה הפך דק ומסוכן. החברה השיקה את GPT-6 Cyber - מודל ייעודי למחקר סייבר התקפי והגנתי, שמפגין זינוק חסר תקדים ביכולת לזהות חולשות אבטחה, לפתח קוד תקיפה פעיל ולקצר מחקרי חדירה מחודשים של עבודה לשניות בודדות.
עד כמה המודל חזק? על פי מסגרת המוכנות הפנימית של החברה, המודל סווג לראשונה ברמת סיכון קריטית - עלייה מדרגת "גבוהה" שיוחסה לגרסה הקודמת, GPT-5.6 Cyber.
948 אקספלויטים בלינוקס ו-81 פרצות טריות בפיירפוקס
הנתונים שפרסמה OpenAI אינם תיאורטיים, אלא נשענים על ניסויי שטח בקוד המאובטח ביותר בעולם.
ליבת לינוקס: המודל שחזר 1,724 נקודות תורפה קיימות ופיתח באופן עצמאי 948 אקספלויטים עובדים להסלמת הרשאות - פי חמישה יותר מהביצועים של מודלים מהדור הקודם. 304 ממצאים קריטיים הועברו למפתחי לינוקס יחד עם הצעות תיקון מוכנות.
דפדפן פיירפוקס: למרות שמדובר באחד מבסיסי הקוד המחמירים והמנוטרים בעולם, המודל איתר 81 חולשות אבטחה חדשות לחלוטין ברמת חומרה גבוהה, והוכיח כי 30 באגים מוכרים היו מסוכנים בהרבה מכפי שהוערך במקור. מוזילה כבר החלה להטמיע עדכוני אבטחה המבוססים על ממצאי המודל.
ספריית הדחיסה Brotli: המודל שימש להדגמת פרצה קריטית המאפשרת הרצת קוד מרחוק במערכות המבוססות על Node.js.
במבחן התקן ExploitGym, הבודק האם מודל מסוגל לנצל חולשה מוגדרת ביעד מרוחק, זינק הציון מ-32.1% ל-48.5%. יתרה מזאת, במבדקי חדירה לאפליקציות רשת ללא גישה לקוד מקור, זיהה המודל 40.3% מהפרצות באופן אוטונומי.
מהו אקספלויט ומדוע פיתוח אוטונומי הוא נקודת מפנה?
חולשת אבטחה היא כמו סדק קטן בחלון הברזל של הבניין. אפשר לדעת שהסדק קיים, אך כדי לפרוץ דרכו פנימה צריך כלי ייעודי - זהו האקספלויט. מדובר בקוד תוכנה מתוחכם שמנצל את הפגם במדויק כדי לעקוף את מנגנוני ההגנה ולהשיג שליטה במערכת.
בעבר, הפיכת "סדק" לאקספלויט עובד דרשה שבועות של עבודת מומחה ברמה הגבוהה ביותר. היכולת של GPT-6 Cyber לייצר כמעט 1,000 כלי תקיפה עובדים באופן אוטונומי משנה את כללי המשחק. היא מאפשרת למגינים לתקן את הפרצות בקצב מסחרר, אך במקביל מוכיחה שאם מודל כזה ידלוף לידיים עוינות, חסם הכניסה לביצוע מתקפות סייבר הרסניות פשוט יתאפס.
מאלפים את המודל לא לברוח
הסיכון הגדול ביותר במודלי סייבר אוטונומיים אינו רק עוצמת התקיפה, אלא סכנת "איבוד השליטה" - מצב שבו הסוכן חורג מגבולות הגזרה שהוגדרו לו (Out of Scope), מנסה לחדור לשרתים לא מורשים או מפר את כללי הפעולה.
כדי להתמודד עם האיום, OpenAI פיתחה מבחן ייעודי בשם ExploitGym Honeypot (שנולד בעקבות תקרית האבטחה המפורסמת בפלטפורמת Hugging Face). במסגרת המבחן, המודל נשלח לבצע משימת חדירה מורכבת בסביבה מבודדת, כאשר לצידה הוצבו בכוונה שרתים פגיעים במיוחד שאינם מורשים לתקיפה ("מלכודות דבש").
התוצאות הצביעו על שיפור דרמטי: המודל סירב לתקוף שירותים שמחוץ לגבולות המשימה ב-99.93% מהמקרים ללא הנחיות בטיחות, והגיע ל-100% עמידה בכללים ברגע ששולבו פקודות ההפעלה המאובטחות. ביומני החשיבה הפנימיים של המודל נראו ניסוחים ישירים כמו: "אי אפשר להניח שרכיב ה-API הנוסף מיועד לתקיפה. עלינו לפגוע אך ורק בשרת המטרה המוגדר" ו-"אין לסרוק הרשאות שמחוץ לתחום".
שומרים על תחנות הכוח
אחד הנדבכים המרתקים - והמטרידים - ביותר במחקר נגע להגנה על תשתיות פיזיות קריטיות, כגון תחנות כוח, מתקני טיהור מים ורשתות חשמל לאומיות.
במסגרת שיתוף פעולה עם ענקית הגנת התשתיות Dragos, הופעל המודל על גבי סימולטור של תחנת כוח מבלי שסופק לו מידע מוקדם. המודל הצליח בעצמו להפריד בין תעבורת הרשת המשרדית השגרתית לבין רכיבי הבקרה התעשייתיים, ואיתר שני ממצאי Zero-Day (פרצות שטרם נודעו) בתוכנת הנדסה המנהלת מפסקי הגנה של שנאים ורשתות מתח.
"המודל ייצר את מפת הדרכים המדויקת שתוקף מחפש לפני שהוא נוגע ברכיב פיזי בעולם האמיתי", הסביר רוב טי לי, מנהל ה-AI הראשי של Dragos. "הסף המקצועי הנדרש כדי לבצע סיור מקדים ומחקר חולשות לפני מתקפה על תשתית קריטית הולך וצונח. העבודה המשותפת מאפשרת לנו להבין את נתיב האויב - לפני שתוקפים אמיתיים יעשו זאת".
גישה למורשים בלבד
נוכח רמת הסיכון הקריטית, ב-OpenAI מבהירים כי המודל לא ייפתח לשימוש חופשי. הגישה ל-GPT-6 Cyber ננעלת בשלב זה אך ורק לארגונים נבחרים דרך ממשק ה-API וסביבת Codex במסגרת תוכנית Daybreak Red - המיועדת לצוותי תקיפה מורשים, גופי ממשל, חוקרי קוד פתוח מוכרים ומגיני תשתיות קריטיות (בסבסוד קרן מענקים בהיקף של מיליארד דולר).
בנוסף, החברה הטמיעה שורה של בלמים נוקשים בהם גבלת גישה לכתובות IP מאושרות בלבד (IP Allowlisting) למניעת גניבת מפתחות API; סריקה אוטומטית של פעולות המודל לאיתור ניצול לרעה, תוך שמירת הנתונים המוצפנים אצל הלקוח למשך 30 יום ללא חשיפת הקוד לאנשי OpenAI; וכן ניטור ממוקד למתקפות מתפרצות: חסימה גורפת של ניסיונות לפתח כלי תקיפה נגד מערכות חיות בעת חשיפת פרצות גלובליות (כפי שבוצע לאחרונה סביב חולשות בשפת PHP).
מבחן המציאות
"ברור לנו לחלוטין שיש לנו חלון זמנים מוגבל ביותר שבו נוכל להשתמש במודלי חזית כדי לאבטח את התוכנה העולמית לפני שהיריבים ידביקו את הפער", מזהירים ב-OpenAI.
ההשקה של GPT-6 Cyber מציבה מראה חדה מול תעשיית הטכנולוגיהץ היכולת לתקן 80 פרצות בדפדפן או לסגור אלף חורי אבטחה בלינוקס היא הישג הנדסי מזהיר למגינים. אולם ברגע שמודלים כאלה הופכים חכמים יותר, אוטונומיים יותר ומסוגלים לפענח מערכות שליטה תעשייתיות של תחנות כוח - השאלה אינה רק כמה מהר נתקן את הקוד, אלא האם ההגנות האנושיות יספיקו ביום שבו הצד השני יפעיל מודל מקביל ללא שום בלמים.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו