המודל של אנתרופיק ריסק הגנות אבטחה מתקדמות - והפך לאיום ביטחוני

מודל הבינה המלאכותית המתקדם של אנתרופיק, Claude Opus 4.6 הצליח לאתר בתוך כשבועיים יותר מ-100 באגים בדפדפן Firefox, בהם 14 שהוגדרו ברמת חומרה גבוהה. מדובר בכמות חריגה: לפי Mozilla, בדרך כלל מדווחים מספר דומה של פרצות חמורות לאורך כחודשיים. כך דווח באתרים המובילים בעולם.

הניסוי החל כבדיקה פנימית של יכולות "האקינג" מבוססות AI. כ-20 דקות לאחר תחילת הסריקה מצא Opus 4.6 את הבאג הראשון. צוות אנתרופיק העביר את הממצא למפתחים, ואלו השיבו כי מדובר בפרצה רצינית וביקשו פרטים נוספים. במהלך הסריקה אותרו למעלה מ-100 ליקויים, כאשר חלקם עלולים היו לאפשר מתקפה רחבה אילו פותח עבורם קוד ניצול מתאים.

בשנה שעברה תיקנה Firefox 73 פרצות שסווגו כחמורות או קריטיות. כעת מתחדדת השאלה כיצד ישפיעו כלי AI על עולם אבטחת המידע: מצד אחד, הם משפרים משמעותית את יכולת האיתור; מצד אחר, מומחים מזהירים כי אותה מהירות עלולה לשמש גם תוקפים. גדי עברון, מנכ"ל חברת הסייבר Knostic, אמר כי שיטות ההגנה הנוכחיות אינן מותאמות לקצב ולתדירות החדשים שבהם מתגלות ומנוצלות פרצות.

לוגן גרהאם, ראש צוות ה-Frontier Red Team באנתרופיק ציין כי המודל התבקש גם לכתוב קוד ניצול, אך הצטיין בעיקר באיתור תקלות ולא בהפיכתן למתקפות יעילות. שני קודי ניצול שכתב פעלו בסביבת בדיקה בלבד והיו נבלמים על ידי מנגנוני ההגנה של Firefox בעולם האמיתי.

עימות מול הפנטגון

במקביל, משרד ההגנה האמריקני הודיע רשמית כי הוא מסווג את החברה כסיכון ביטחוני וסיכון שרשרת אספקה - צעד נדיר כלפי חברה אמריקנית. ההחלטה מגיעה על רקע מחלוקת סביב היקף השימוש הצבאי המותר בכלי החברה. הפנטגון מבקש לאפשר שימוש בטכנולוגיה לכל שימוש חוקי, בעוד אנתרופיק דורשת ערבויות שלא תיעשה בה שימוש בנשק אוטונומי או במעקב המוני פנימי.

המנכ"ל דריו אמודיי התנצל על מזכר פנימי שדלף, שבו מתח ביקורת על הממשל וטען כי ההחלטה נובעת משיקולים פוליטיים. עם זאת, הודיע כי החברה תערער על הסיווג בבית המשפט וטען כי הוא אינו מבוסס משפטית. לדבריו, נוסח ההודעה הרשמית מצביע על תחולה מצומצמת - שימוש במודל קלוד רק כחלק מחוזים ישירים עם משרד ההגנה.

המהלך עלול להשפיע גם על שותפות עסקיות של החברה, בהן Lockheed Martin, אמזון וגוגל. דוברת מיקרוסופט מסרה כי להערכת יועציה המשפטיים, מוצרי אנתרופיק יוכלו להמשיך להיות זמינים ללקוחות שאינם משרד ההגנה.