בסוף השבוע האחרון נרשמה רעידת אדמה בעולם ה-AI: הענקית אנתרופיק נאלצה להוריד מהאוויר במפתיע את המודלים החדשים והמתקדמים ביותר שלה, Claude Fable 5 ו-Mythos 5. הצעד הקיצוני הגיע בעקבות צו פיקוח על ייצוא של ממשל טראמפ, האוסר על "כל אזרח זר" להשתמש בשירותים אלו.
מאז יום שישי מנהלת הנהלת החברה, בראשות המנכ"ל דאריו אמודיי, שיחות חירום עם הבית הלבן, אך טרם הושגו הבנות שיאפשרו את החזרת המודלים לפעילות.
מאז השקתו של Mythos באפריל האחרון, באנתרופיק לא היססו להשוויץ - ובו בזמן להזהיר - מפני היכולות החריגות שלו. המודל מסוגל לא רק לאתר חולשות אבטחה בתוכנה כדי לסייע למגינים לחסום אותן, אלא גם לפתח באופן עצמאי דרכים לנצל את החולשות הללו - כלי נשק קטלני בידיהם של האקרים ומדינות עוינות.
חרב פיפיות
באנתרופיק היו מודעים היטב למצב של "דו-שימוש". העובדה שאותה שאילתה שיכולה לסייע לחוקר סייבר או ביולוגיה, עלולה לשמש גם גורם זדוני. כדי להתמודד עם הסיכון, החברה נקטה באסטרטגיה זהירה.
גרסת ה-Preview של המודל שוחררה בתחילה רק לקונסורציום סגור של מומחים במסגרת קבוצת עבודה חסויה בשם Project Glasswing. בעוד שגרסת Mythos 5 שוחררה בשבוע שעבר רק לקבוצה הסגורה הזו, המודל המקביל Claude Fable 5 שוחרר לציבור הרחב עם חסימות מובנות בנושאי סייבר וביולוגיה.
הבית הלבן סירב לקנות את ההפרדה הזו. בממשל טראמפ טוענים כי האקרים יכולים לנטרל בקלות את מנגנוני ההגנה של Fable 5 ובכך לקבל גישה מלאה ליכולות הפריצה של המודל הלא-מצונזר, מה שמהווה "סיכון מיידי לביטחון הלאומי".
הראייה הקצר-רואית של הממשל
בעוד הממשל חוגג את מה שנראה כהפגנת כוח מול חברות הטכנולוגיה, מומחי אבטחה מובילים טוענים כי מדובר בלא יותר מאשר טמינת הראש בחול. הניסיון לעצור את אנתרופיק אולי מעכב את התהליך, אך הוא מסתיר אמת קשוחה בהרבה: היכולות הללו יהיו זמינות לכולם תוך חודשים ספורים.
"זו קצרת רואי קיצונית לחשוב שאף מתחרה אחר לא יפתח יכולות דומות ל-Mythos, או שהם לא עשו זאת כבר", מסבירה טארה וילר, מנהלת אבטחה ראשית בחברת הייעוץ TPO Group. "יש חברות שנושפות בעורפה של אנתרופיק, מחזיקות ביכולות האלה 'במחסנית' ומחכות לראות כיצד הרגולטור יתייחס אליהן".
כך, למשל, חברת OpenAI שחררה כבר באמצע אפריל מודל פרטי ממוקד סייבר והכריזה על אסטרטגיית הגנה מורחבת. לוגן גרהאם, ראש צוות ה-Red Team של אנתרופיק, הודה ביושר: "המסר האמיתי הוא שזה לא קשור למודל ספציפי או לחברה שלנו. אנחנו צריכים להיערך לעולם שבו היכולות האלו יהיו זמינות באופן נרחב בעוד שישה, 12 או 24 חודשים".
הרגולציה רק פוגעת במגינים
ביום ראשון האחרון שיגרה קבוצה גדולה של מנהיגי תעשיית הסייבר מכתב פתוח לממשל, ובו טענו כי צו הפיקוח על הייצוא הוא שגיאה קשה. חוקר האבטחה הנודע ברוס שנייר מאוניברסיטת הרווארד הסביר כי מודלים קטנים, זולים יותר ובקוד פתוח, יכולים כבר היום - באמצעות הנדסת שאילתות מתוחכמת או עבודה משולבת ביניהם להגיע לביצועים של Mythos.
הניסיונות לחסום מודלים מסוימים אינם מפחיתים את הסיכון העולמי, אלא בעיקר פוגעים בצד של ה"טובים". כפי שמסכם כריס ויסופאל, ממייסדי חברת אבטחת הענן Veracode: "השאלה המדינית היא לא האם לטכנולוגיה יש סיכון. השאלה היא האם הגבלה ספציפית מפחיתה את הסיכון הזה בצורה משמעותית, או שהיא בעיקר מאטה את האנשים שמנסים להפוך את המערכות לבטוחות יותר".
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו