טכנולוגיית הבינה המלאכותית דוהרת קדימה בקצב מסחרר, אבל מאחורי הקלעים, החששות מפני היום שבו היא תופנה נגדנו הופכים למציאותיים מרגע לרגע. מודל ה-AI החדש והמדובר של חברת אנתרופיק, המכונה Mythos, מצליח להלך אימים על תעשיית האבטחה הגלובלית.
המודל, המהווה וריאציה מתקדמת של סדרת המודלים קלוד, מחזיק ביכולות פנומנליות לזיהוי חולשות אבטחה קריטיות ונסתרות במערכות מחשוב - יכולות שאם ייפלו לידיים הלא נכונות של קבוצות האקרים, עלולות להוביל לכאוס פיננסי עולמי.
החשש הגדול בקרב הקהילה הבינלאומית אינו תיאורטי בלבד. לפי דיווחים רשמיים, מועצת היציבות הפיננסית העולמית (FSB), גוף הפיקוח שהוקם על ידי מדינות ה-G20 ומובל כיום על ידי נגיד בנק אנגליה אנדרו ביילי, עוקב מקרוב אחר ההתפתחויות. ב-FSB אישרו את הפרסומים ומסרו: "אנו מברכים על המעורבות עם אנתרופיק וחברות אחרות בנוגע לסיכונים מתעוררים וגבוליים ליציבות הגלובלית".
גם מכון אבטחת ה-AI הבריטי (AISI) פרסם הערכה מעודכנת לפיה מדובר בקפיצת מדרגה דרמטית, כאשר יכולות הסייבר האוטונומיות של המודלים הללו מכפילות את עצמן בתוך חודשים ספורים בלבד.
בניסיון למנוע קטסטרופה, באנתרופיק בחרו באסטרטגיה חריגה: המודל נותר חסוי לחלוטין לקהל הרחב, ובמקום זאת הוענק רישיון שימוש מוגבל לקומץ בנקים גדולים וחברות טכנולוגיה מובילות, על מנת שיוכלו לצוד פגיעויות במערכות שלהם לפני שהאויב יעשה זאת. גורמים מובילים בוול סטריט כבר מביעים דאגה עמוקה.
מנכ"ל גולדמן זאקס, דיוויד סולומון, הודה כי הוא "מודע יותר מדי" ליכולות הקיצוניות של "Mythos", בעוד ג'יימי דיימון, מנכ"ל ג'יי.פי מורגן, ציין כי הבינה המלאכותית הפכה את מלאכת הגנת הסייבר למורכבת וקשה בהרבה.
בעוד המוסדות הפיננסיים הגדולים בארצות הברית, אירופה ויפן ממהרים לסתום את הפרצות שחשף המודל, הרגולטורים לא חוסכים בביקורת כלפי המערכות הישנות שנותרו מאחור.
פרנק אדלרסון, חבר מועצת המנהלים של הבנק המרכזי האירופי (ECB), שיגר אזהרה חריפה לבנקים הקטנים ביבשת וקבע כי "היעדר גישה ל-'Mythos' אינו מהווה תירוץ לאי עשייה". לדבריו, העובדה שכלי פריצה כה מתוחכמים קיימים בשוק מחייבת פעולה מיידית והיערכות לתרחישי קיצון, שכן שחקנים זדוניים לא יבזבזו זמן ויפתחו בקרוב כלים עצמאיים משלהם.
במקביל, הפורום הכלכלי העולמי כבר משיק פלטפורמה מיוחדת להתמודדות עם אתגרי הסייבר המערכתיים הללו, במה שמסתמן כקו ההגנה האחרון של הכלכלה העולמית.
חשוב לציין כי העובדה שחברת הייטק נפגשת עם רגולטור פיננסי ולא עם גופי ביטחון רגילים, חושפת את עומק האיום. הכלכלה העולמית כיום מבוססת כולה על אמון דיגיטלי. פריצה מוצלחת אחת של האקרים המצוידים בבינה מלאכותית למערכת סליקה בנקאית או לבורסה מרכזית, יכולה למחוק מיליארדי דולרים בשניות ולשתק מדינות שלמות. זו הסיבה שראשי הבנקים המרכזיים מתייחסים ל'פרויקט גלאסווינג' כאל אירוע חירום כלכלי.
המכון הבריטי לבטיחות AI זעזע את הענף כשחשף ש-Mythos הצליח לפצח את אתגר "מגדל קירור" - סימולציית סייבר מורכבת במיוחד המדמה חדירה למערכות תשתית קריטיות (כמו תחנות כוח או מתקני מים). המודל הצליח לפרוץ את ההגנות באופן עצמאי לחלוטין בשלושה מתוך עשרה ניסיונות. העובדה שבינה מלאכותית מסוגלת לנהל מתקפת סייבר שלמה ואוטונומית, ללא התערבות יד אדם, קיצרה את לוחות הזמנים של האיום מחודשים לשבועות בודדים.
תזכורת: מודל Mythos הוא וריאציה סודית ומתקדמת במיוחד של סדרת דגמי הבינה המלאכותית קלוד, אשר פותח תחת מעטה חשאיות כבד במסגרת מיזם הרשת השנוי במחלוקת Project Glasswing. בשונה ממודלי ה-AI המוכרים לציבור הרחב, Mythos לא נועד לכתיבת טקסטים או ליצירת תמונות, אלא פועל כנשק סייבר אוטונומי ומתוחכם המיועד לצייד פגיעויות וחולשות אבטחה קריטיות (Zero-Day) במערכות מחשוב מורכבות.
בשל עוצמתו הפנומנלית של המודל, שהתגלה כבעל יכולת פריצה עצמאית חסרת תקדים, אנתרופיק והרגולטורים העולמיים הטילו עליו הגבלות הפצה מחמירות, מתוך הבנה כי דליפה של לרשת או הגעת כלי ה-Mythos לידיהם של האקרים ומדינות עוינות, עלולה למוטט את מערכות ההגנה הדיגיטליות של הממסד הפיננסי והטכנולוגי העולמי.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו