האזהרה של אמזון והאולטימטום מהבית הלבן: מאחורי הדרמה ששיתקה את קלוד

שלושה ימים בלבד לאחר שחברת הבינה המלאכותית אנתרופיק שחררה את המודל החזק ביותר שלה אי פעם, 5 Fable, הגיעה שיחת הטלפון המפתיעה מוושינגטון. בכירי ממשל טראמפ הציבו בפני החברה דרישה חריגה: להוריד את המודל מהאוויר באופן מיידי, וקצבו לה חלון זמנים דרקוני של 90 דקות בלבד ליישום הפקודה.

האירוע, שהתרחש בשלהי סוף השבוע האחרון, מהווה את עליית המדרגה המשמעותית ביותר עד כה בעימות הפתוח שבין הממשל האמריקני לבין חברות הטכנולוגיה החזקות בעמק הסיליקון. הוא חושף כיצד הבטחות הממשל להסרת רגולציה לטובת "פריצה כלכלית" התחלפו במהירות בעיצומים נוקשים, תוך שימוש בכלים משפטיים קיצוניים השמורים לימי מלחמה.

כך התגלגלה הדרמה

במהלך אמצע השבוע, שחררה אנתרופיק את מודל הדגל החדש שלה, גרסה מוגנת של מודל האם Mythos, שהציגה עליונות טכנולוגית מרשימה אל מול המתחרה הגדולה OpenAI. אלא שהחגיגות היו קצרות במיוחד. בין הימים חמישי לשישי, מומחי אבטחה בחברת אמזון זיהו כי ניתן לעקוף בקלות יחסית את מנגנוני ההגנה של המודל. המנכ"ל, אנדי ג'אסי, העביר את המידע הרגיש באופן אישי וישיר לבכירי הממשל בארה"ב.

התגובה מוושינגטון הייתה אגרסיבית ומהירה. ביום שישי אחר הצהריים, הציב הממשל האמריקני אולטימטום דרקוני והעניק לאנתרופיק חלון זמנים של 90 דקות בלבד להסרת המודל מהאוויר. במקביל, משרד המסחר האמריקני שלח לחברה "מכתב יידוע" - כלי משפטי חריג וקיצוני, המשמש בשגרה לעצירת ייצוא של ציוד צבאי רגיש או רכיבי נשק אסטרטגיים, ומטיל אחריות פלילית אישית על מנהלי החברה במקרה של הפרה.

הלחץ החוקי החריף לקראת יום שישי בערב, כאשר הממשל הוציא צו משפטי תקדימי האוסר על אזרחים זרים להשתמש במודל. הגזירה הייתה כה נרחבת, שהיא חלה אפילו על עובדיה הזרים של אנתרופיק עצמה, מה ששיתק חלק ניכר מפעילות הפיתוח שלה.

לנוכח איומי הסנקציות, החברה נכנעה לחלוטין והחשיכה את הגישה ל-Fable 5 ולמערכת האם המקורית Mythos, מה שגרם לטלטלה אדירה בקרב חברות שכבר הספיקו להטמיע את המערכת.

במהלך סוף השבוע המשבר כבר הפך לגלוי ורועש במיוחד. בזמן שבכירי הממשל האמריקני, בהם שר ההגנה פיט הגסת', ניצלו את הבמה הציבורית כדי לתקוף את אנתרופיק ברשתות החברתיות ולהאשים אותה בהתנהלות חסרת אחריות, החברה עברה למצב בלימה. צוותים טכניים מורחבים של אנתרופיק, יחד עם המנכ"ל דריו אמודיי, עלו על טיסה דחופה ונחתו בוושינגטון לסדרת פגישות חירום מרתוניות בבית הלבן במטרה לנסות ולפתור את הפלונטר.

"משטר רישוי לא רשמי"

ההתנגשות הנוכחית תופסת את אנתרופיק בנקודת הזינוק המשמעותית ביותר בתולדותיה. החברה עקפה לאחרונה את שוויה של OpenAI, ונמצאת בעיצומן של הכנות להנפקת ענק (IPO) שצפויה להפוך את מייסדיה למיליארדרים ואת עובדיה למיליונרים. מתכנתים רבים בסירקולציה של עמק הסיליקון טוענים כי החברה פתחה פער טכנולוגי בלתי ניתן להשגה מול שאר השוק.

אולם, האירועים האחרונים מוכיחים כי הפערים הטכנולוגיים אינם המשתנה היחיד במשוואה. יחסי הכוחות בין החברה לממשל הגיעו לנקודת רתיחה עוד במהלך החורף האחרון, כאשר הפנטגון דרש חופש פעולה מלא לשימוש בטכנולוגיה של אנתרופיק לצרכים צבאיים. אמודיי סירב, ודרש להציב "גדרות הגנה" שימנעו שימוש במודל לצורך מעקב המוני או בתוך מערכות נשק אוטונומיות לחלוטין.

בעקבות כך, הגסת' הוביל מהלך להפסקת ההתקשרות עמם, וציין בסוף השבוע: "כל יום שעובר מוכיח שזה היה המהלך הנכון".

"אל תטעו. אנו נמצאים בעידן שבו ארצה"ב מנהלת משטר רישוי לא רשמי לבינה מלאכותית", כתב דין בול, לשעבר יועץ AI בממשל טראמפ. "זהו מנגנון לא פורמלי, ללא כללים עקביים, ללא גבולות ברורים לכוחה של המדינה, ובאפס שקיפות ציבורית".

האם הממשל פגע במערך ההגנה?

בלב הסערה עומד ויכוח מקצועי קשוח סביב המונח "פריצת הגנות". באנתרופיק טוענים כי המודל עבר אלפי שעות בדיקה בשיתוף ממשלות ארה"ב ובריטניה, וכי אף מנגנון הגנה אינו מושלם.

מומחי אבטחה עצמאיים, כמו קייטי מוסוריס, מנכ"לית Luta Security, טוענים כי הממשל פעל מתוך חוסר הבנה טכנולוגי עמוק. לדבריה, הניסיון לעקוף את מנגנוני ה-Fable לא התבצע באמצעות פקודה זדונית אחת, אלא דרך סדרה של שאילתות - טכניקה שדווקא אנשי אבטחת סייבר משתמשים בה כדי להבין כיצד להתגונן מפני תקיפות.

"התפיסה שניתן 'לתקן' או לחסום את זה בטלאי אבטחה מעידה על חוסר הבנה", הסבירה מוסוריס. "אם יוסיפו הגנות שימנעו לחלוטין את סוג השימוש הזה, המודל פשוט יהפוך למשותק ומנוטרל עבור אותם אנשי סייבר שאמורים להגן על המערכות שלנו".

כעת, המשקיעים בעמק הסיליקון עוקבים בדריכות אחר השיחות בוושינגטון. דייוויד סאקס, משקיע מוביל ויו"ר פאנל ייעוץ הטכנולוגיה של הבית הלבן, ניסה להרגיע וציין כי הממשל הפעיל את מגבלות הייצוא "באי רצון" ומטרה לפתור את המשבר במהירות. עם זאת, מומחים בתעשייה מזהירים כי הצעד האגרסיבי עלול להשמיד את התמריץ של חברות ה-Frontier לשתף פעולה באופן וולונטרי עם הממשל בעתיד.