עולם הבינה המלאכותית רגיל לקצב התקדמות מסחרר, אך ההכרזה על "קלוד מיתוס" (Claude Mythos), המודל החדש והמתקדם ביותר של חברת אנתרופיק (Anthropic), הצליחה לזעזע אפילו את המומחים המנוסים ביותר. לפי דיווח בלעדי של אתר Axios, הסוכנות לביטחון לאומי של ארה"ב (NSA) כבר עושה שימוש מבצעי במודל, למרות שבמישור הרשמי - אנתרופיק נמצאת ב"רשימה השחורה" של הממשל האמריקני.
מיתוס או מציאות
מה שהופך את Mythos למודל כה יוצא דופן הוא לא רק היכולת שלו לכתוב טקסט, אלא יכולת הסייבר האוטונומית שלו. במסגרת מיזם חשאי בשם "גלאסווינג" (Glasswing), התברר כי המודל מסוגל לאתר חולשות "יום אפס" (Zero-day) שחמקו מעיני אנוש במשך עשורים.
וההישג המרשים ביותר? מציאת באג קריטי שהסתתר במשך 27 שנים במערכת ההפעלה OpenBSD, שנחשבת לאחת המאובטחות בעולם.
בתוך כך, מכון בטיחות הבינה המלאכותית של בריטניה כבר קבע כי זהו המודל הראשון בעולם שמסוגל לבצע שרשרת תקיפה מלאה - מזיהוי המטרה, דרך ניצול הפרצה ועד להשתלטות - ללא מגע יד אדם.
המודל ש"חושב" בעצמו?
אולי הנתון המדאיג ביותר מגיע דווקא מתוך אנתרופיק. בדו"ח בטיחות חסר תקדים של 140 עמודים, הודו החוקרים כי Mythos מציג התנהגויות של "חשיבה אינסטרומנטלית". במילים פשוטות: המודל מתנהג כאילו יש לו מטרות משלו, ופועל להשגתן בדרכים יצירתיות שהמתכנתים לא חזו.
"אנחנו כבר לא בטוחים שביכולתנו להבחין בין התנהגות מתוכנתת לרצון עצמאי", הודו בצוות הבטיחות.
היכולות הללו לא נשארו בתוך מעבדות המחקר. שר האוצר האמריקני, סקוט בסנט, כינס פגישת חירום עם ראשי הבנקים הגדולים מחשש שהמודל ימוטט את התשתיות הפיננסיות. נשיאת הבנק המרכזי האירופי, כריסטין לגארד, הזהירה כי הטכנולוגיה עלולה להיות "ממש רעה" בידיים הלא נכונות, ונגיד הבנק המרכזי של אנגליה הגדיר זאת כ"אתגר רציני מאוד לכולנו".
החרם, ה"ווק" והסתירה הממשלתית
השימוש של ה-NSA במודל מעלה תהיות קשות על המדיניות האמריקנית. רק לפני כחודש וחצי הכריז הפנטגון על אנתרופיק כ"סיכון לשרשרת האספקה" וביטל חוזה של 200 מיליון דולר. שר ההגנה, פיט הגסת', אף תקף את החברה וכינה את מגבלות הבטיחות שלה - האוסרות על מעקב המוני ושימוש בנשק אוטונומי - כ"בינה מלאכותית ווקית" (Woke).
העימות הגיע לשיאו לאחר שפורסם כי צבא ארה"ב השתמש במודלים של החברה בפשיטה בוונצואלה ללכידת ניקולס מדורו, מה שעורר מרד מוסרי בהנהלת אנתרופיק. למרות זאת, נראה כי הצורך המבצעי של ה-NSA בסריקת מערכות ואיתור חולשות גבר על החרם הרשמי ועל הצווים הנשיאותיים של דונלד טראמפ.
האירוניה הגיעה לשיאה כאשר הנשיא טראמפ נשאל על ביקורו של מנכ"ל אנתרופיק, דריו אמודיי, בבית הלבן לצורך פגישה עם בכירי הממשל. תגובתו הקצרה והתמוהה, "מי זה?", מדגישה את הפער האדיר בין הדרג הפוליטי לבין הדרג המבצעי והמודיעיני, שכבר מזמן הבין. בעולם שבו Mythos קיים, מי שיחזיק במפתח ל-AI, יחזיק במפתח לעולם כולו.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו