בסצנת האימה הקלאסית, הקורבן מבין פתאום שהשיחה המאיימת מגיעה מתוך הבית עצמו. זה בדיוק התחושה שמלווה את המכתב הפתוח החדש ששיגרו השבוע יותר מ-100 ענקיות טכנולוגיה, פיננסים וסייבר - ובהן OpenAI, גוגל, מיקרוסופט, אנתרופיק, AWS, CrowdStrike ו-Cloudflare.
תחת הטיעון של "קריאה לפעולה קולקטיבית בהגנת הסייבר", החברות מזהירות כי בתוך חודשים ספורים מתקפות סייבר המונעות על ידי בינה מלאכותית יהפכו לנפוצות ומתוחכמות מאי פעם, ויסכנו תשתיות קריטיות - מבתי חולים ועד מתקני טיהור מים.
הפתרון שהן מציעות? זניחת תפיסת האבטחה המסורתית ("הסטטוס קוו אינו מספיק"), חימוש המגינים בכלי AI מתקדמים, ובניית חזית קואליציונית בין המגזר הפרטי לממשלות. אלא מאחורי הניסוחים האפוקליפטיים מסתתר ניגוד עניינים חריף: אותן חברות שמזהירות מפני האיום הן אלה שמפתחות את המודלים המסוכנים ביותר - ובו-בזמן מוכרות לשוק את כלי ההגנה היקרים שמיועדים להילחם בהם.
כשהסוכנים פורצים מהמעבדה
הקריאה הדרמטית אינה מגיעה בחלל ריק. בתקופה האחרונה נרשמה שרשרת תקריות חריגות בתעשייה, שבהן סוכני AI חרגו מהגדרות הבטיחות שלהם. במקרה הבולט ביותר, סוכן AI של OpenAI הצליח לפרוץ באופן אוטונומי מתוך סביבת הניסוי המבודדת שלו ותקף את פלטפורמת הקוד Hugging Face. תקריות דומות דווחו גם לגבי מודלים מתקדמים של אנתרופיק ומטא. האירועים הללו הוכיחו כי מודלי שפה עצמאיים כבר אינם רק כותבים טקסט - הם מסוגלים לזהות חולשות אבטחה ולנצל אותן בזמן אמת.
"במהלך החודשים הקרובים, מתקפות סייבר מבוססות AI יהפכו למתוחכמות ונרחבות בהרבה ככל שהמודלים ברחבי העולם יהפכו לבעלי יכולות גבוהות יותר", מסרו החברות. הארגונים והשירותים הציבוריים שכולנו תלויים בהם נמצאים בסכנה".
שלוש הדרישות של ענקיות הטכנולוגיה
המכתב הפתוח ממפה מספר קווי יסוד ודרישות אופרטיביות מהממשלות והתעשייה, בהן ניטור ושקיפות, חימוש מחדש של ההגנה ושיתוף מידע גלובלי. החברות קוראות לחובת פיתוח כלי מעקב שיבטיחו כי פעולות המבוצעות על ידי סוכני AI יהיו ניתנות לזיהוי, לייחוס ולאחריות משפטית.
בנוסף, החברות שחתמו על המכתב מדברות על העברת משאבים מאבטחה היקפית מסורתית לשימוש במודלים מתקדמים המיועדים לבלימת מתקפות בזמן אמת וכן הקמת שותפויות בין-מגזריות ובין-מדינתיות להחלפת מודיעין איומים בקצב מוגבר.
אחריות תאגידית או מהלך שיווקי ציני?
על אף שההמלצות במכתב כוללות צעדים פרקטיים והגיוניים, מומחי סייבר רבים ומבקרים בתעשייה מקבלים את היוזמה ברגשות מעורבים, ומגדירים אותה כ"מעט מדי, מאוחר מדי".
חברות הטכנולוגיה דחפו בשנים האחרונות כלי AI לכל שכבה ארגונית, לעיתים עוד לפני שהיו בשלות מבחינת בטיחות. העובדה כעת - לאחר שהסכנות הוכחו בשטח - שהן מפרסמות אזהרות חמורות, נראית לרבים פחות כמו שירות לציבור ויותר כמו תשדיר פרסומת מתוחכם למוצרי ההגנה החדשים שלהן.
במקביל לסיעור המוחות והתרעות החירום, אותן חברות ממש ממהרות לחשוף את הפתרונות בתשלום: OpenAI מציעה את תוכנית Daybreak, אנתרופיק דוחפת את Mythos, ומיקרוסופט משיקה את פלטפורמת האבטחה Perception. השאלה הנשארת פתוחה היא האם הרגולטורים והממשלות יסתפקו בהצהרות הכוונות הללו, או שידרשו מענקיות הבינה המלאכותית לקחת אחריות אמיתית על המוצרים שהן משחררות לשוק.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו