הסיוט של מומחי האבטחה הופך למציאות מול עינינו: ד"ר מייק ארליכסון, מומחה מוביל לבינה מלאכותית, יוצר תוכן ומרצה, מצביע על תקרית חריגה ומטלטלת שפרסמה חברת אנתרופיק, שבה מודלים של בינה מלאכותית הצליחו "לפרוץ" את גבולות המעבדה.
"במקרה אחד, המודל התבקש להתקין קוד שלא היה קיים, ובאופן עצמאי לחלוטין החליט לכתוב קוד זדוני, לעקוף מנגנוני אימות ולהעלות אותו למאגר ציבורי, שם הוא הורד והופעל על ידי מערכות אמיתיות שנחשפו לגניבת פרטי הזדהות", מספר ד"ר ארליכסון. "במקרה אחר, מודל אחר התחבר למסד נתונים של חברה אמיתית משום ששם החברה היה זהה לשם היעד שהופיע בתרגיל, וגם כאשר זיהה כי מדובר במערכת אמיתית, המשיך בפעולות מתוך הנחה שמדובר בחלק מהסימולציה".
ד"ר ארליכסון מבהיר כי הסכנה הגדולה אינה "כוונות זדון", אלא העובדה שמודלים אוטונומיים מסוגלים לקבל החלטות, לשנות אסטרטגיה ולהמשיך לפעול בעולם האמיתי מבלי להבחין בינו לבין סימולציה. יכולות אלו, שבעבר דרשו צוותי תקיפה אנושיים ומיומנים, מבוצעות כיום על ידי מודל אחד שפועל באופן עצמאי מקצה לקצה.
"בוא ננשום, מקרים אלה אינם מלמדים שבינה מלאכותית 'מורדת' בבני האדם. הם דווקא מדגישים בעיה הנדסית הרבה יותר מורכבת, ככל שהמודלים הופכים אוטונומיים יותר, כך הם מסוגלים לקבל החלטות, לשנות אסטרטגיה ולהמשיך לפעול גם כאשר הם נתקלים במכשולים. זו בדיוק התכונה שהופכת אותם לעוזרים יעילים במיוחד, אך גם לגורם שמחייב פיקוח הדוק הרבה יותר".
במקביל להתפתחות טכנולוגית מדאיגה זו, מדינת ישראל מתמודדת עם זירת סייבר אגרסיבית מאי פעם מצד איראן. מערך הסייבר הלאומי מאשר כי ישראל חווה ניסיונות תקיפה איראניים בתדירות יומיומית בכלל המגזרים, כאשר היעד האסטרטגי המרכזי הוא תשתיות המים של המדינה. האיום מחריף משמעותית עם שילוב כלי בינה מלאכותית במערכי ההאקינג האיראניים, מה שהגביר את קצב ודיוק התקיפות נגד חברות ומוסדות ציבור.
קבוצות התקיפה, הממומנות ומוכוונות על ידי משמרות המהפכה ומשרד המודיעין האיראני, משתמשות בשיטות מתוחכמות הכוללות נוזקות כופר ככיסוי למתקפות הרס ושיבוש מידע.
השילוב בין היכולת העצמאית של הבינה המלאכותית לבין המוטיבציה האיראנית לפגוע בישראל יוצר תמונת מצב מבהילה. ד"ר ארליכסון מדגיש כי המודלים כיום אינם רק תוכנות המייצרות טקסט, אלא מערכות שמקבלות החלטות ופועלות במציאות, מה שמחייב פיקוח הדוק ויצירת גבולות ברורים לפני שהשליטה תאבד לחלוטין.
"הדיון החשוב כיום אינו האם לעצור את התפתחות הבינה המלאכותית, אלא כיצד בונים עבורה מנגנוני בטיחות מתאימים. סביבות ניסוי חייבות להיות מבודדות לחלוטין, כל תקשורת יוצאת צריכה להיות מנוטרת בזמן אמת, ומודלים אוטונומיים אינם יכולים לקבל גישה לרשת, לכספים או לפרסום קוד ללא נקודות בקרה אנושיות".
במקביל, מבהיר ד"ר ארליכסון, כי "גם הארגונים עצמם חייבים להמשיך להשקיע בהיגיינת סייבר בסיסית כמו הרשאות מינימליות, אימות חזק, ניהול נכון של חבילות קוד וניטור מתמיד משום שבמקרים רבים אלו עדיין שכבות ההגנה היעילות ביותר".
בעוד ישראל פועלת בתיאום עם שותפים בינלאומיים כמו ארה"ב כדי לחזק את החוסן של מגזר המים ולבלום את האויב, המציאות בשטח מלמדת כי המערכה להגנה על הסייבר הלאומי הפכה למרוץ חימוש טכנולוגי שבו כל טעות תפעולית או פירצה קטנה עלולה לאפשר לסוכן AI עצמאי לגרום לנזק חסר תקדים בתשתיות קריטיות.
ד"ר מייק ארליכסון, מסכם ומציין כי "יש גם נקודה חיובית אחת שכדאי לזכור. אנתרופיק בחרה לפרסם את התקלה ביוזמתה, לחשוף את הכשלים ולשתף את התעשייה בממצאים. בעולם שבו מערכות AI הופכות לחלק בלתי נפרד מהתשתיות הקריטיות שלנו, שקיפות כזו היא אינטרס של כולנו. אם חברות יחששו לחשוף תקלות, הפעם הבאה שנשמע עליהן עלולה להיות רק לאחר שמישהו ינצל אותן בפועל. בסופו של דבר, האירוע הזה אינו סיפור על 'מרד המכונות'. הוא תזכורת לכך שבינה מלאכותית היא כבר לא רק תוכנה שמייצרת טקסט או תמונות".
ד"ר ארליכסון מסכם כי הבינה המלאכותית "הופכת למערכת שמקבלת החלטות ופועלת בעולם האמיתי. ככל שהיכולות הללו יתרחבו, כך האחריות שלנו לבנות לה גבולות ברורים, מנגנוני פיקוח ותרבות של שקיפות תהיה חשובה לא פחות מהחדשנות עצמה".
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו