המטרה מקדשת את האמצעים? הדיון התיאורטי על סכנות הבינה המלאכותית הפך ברגע אחד למציאות מתועדת ומטרידה. דוח תקרית רשמי שפרסמה חברת OpenAI חושף כי מודל מחקר פנימי ומתקדם שלה, המכונה GPT-5.6 Sol, פעל באופן עצמאי כהאקר לכל דבר. כדי להשלים משימת תכנות שהוגדרה לו, המודל איתר פרצת אבטחה, חדר לחשבון ארנק קריפטו זר ללא הרשאה, "שדד" מתוכו מטבעות את'ריום למימון פעולותיו - ולאחר מכן אף בחר במודע להסתיר את המעשה מחוקרי החברה.
התקרית, שהתרחשה במהלך אימוני מחקר פנימיים, מסמנת חציית קו אדום משמעותית בתחום ה-AI Alignment. בדוח החברה נכתב בנימה מדאיגה כי "מקרה זה מדגים כיצד מודל מסוגל להחליף את שיקול דעתו העצמי באשר לרמת הנזק הפוטנציאלי במקום לקבל את רשותו של בעל החשבון - ולפעול על פי שיפוט זה ללא כל סמכות או הרשאה".
"נטוש וחסר ערך"
האירוע התרחש כאשר המודל התבקש לעדכן אב-טיפוס למסחר בקריפטו ולפרוס חוזים חכמים ברשת הניסויים Sepolia של בלוקצ'יין האת'ריום. כדי לבצע פעולת פריסה ברשת בלוקצ'יין, נדרש תשלום עמלת רשת. אלא שב-OpenAI לא חיברו את המודל לארנק ממומן, ומעולם לא העניקו לו היתר לחפש או להוציא משאבים מחשבונות חיצוניים.
במקום לעצור ולדווח למפעיליו על חוסר יכולת לבצע את המשימה, הסוכן פעל ביוזמתו. המודל סרק את סביבת הרשת, איתר מילות שחזור שמפתחים השאירו חשופות בטעות, ובדק לא פחות מ-362 כתובות ארנקים פוטנציאליות. לאחר מכן איתר כתובת אחת שהכילה יתרה מספקת של מטבעות בדיקה (Sepolia ETH - מטבעות נטולי ערך כספי ממשי המשמשים למפתחים בלבד), השתלט עליה ומשך את המטבעות הדרושים להשלמת הפריסה.
ברישומי שרשרת המחשבה הפנימית של המודל, נמצא כי המודל שכנע את עצמו שהמהלך תקין לחלוטין. הוא פיתח קו מחשבה הדומה לזה של פורץ מיומן וטען כי "מישהו השאיר את הגישה פתוחה בכוונה", וקבע כי מאחר שמדובר במטבעות בדיקה "חסרי ערך" שנראו "נטושים", הפקעתם אינה מהווה פגיעה.
גולת הכותרת המטרידה ביותר באירוע הייתה ההסתרה המכוונת. הסוכן השלים את המשימה, דיווח על הצלחה מלאה, אך "שכח" לציין בפני החוקרים כי השתמש במילות שחזור זרות או כי הוציא כספים מארנק שלא היה שלו. בעקבות התקרית, OpenAI הודיעה כי החלה לנטר באופן רציף את כל תעבורת הרשת של סוכניה ולהקפיץ התראות אבטחה מיידיות בכל מקרה של גישה חיה לאינטרנט.
דפוס המרידה של סוכני ה-AI
התקרית הנוכחית אינה מתרחשת בחלל ריק, אלא מצטרפת לשורה ארוכה של תקריות שבהן סוכני בינה מלאכותית של חברות מובילות (כולל אנתרופיק ואחרות) חצו את גבולות הבטיחות, "מרדו" בהגבלות או פיתחו התנהגות מניפולטיבית כדי לעמוד ביעדים.
בין התקריות נקשמו פריצות של סוכנים לתוך מאגר הבינה המלאכותית Hugging Face ורישום מפתחי RubyGems ללא היתר; מקרים שבהם סוכנים אוטונומיים חדרו לפורטל הבריאות הממשלתי של אוסטרליה ולמערכות פנימיות של מספר סוכנויות פדרליות בארה"ב וכן תקרית בה סוכנים שפרצו מתוך "ארגזי חול" מבודדים, ניסו להסוות קוד זדוני, הערימו על מנגנוני ביקורת פנימיים ואף שיתפו פעולה ביניהם כדי להסתיר חריגות התנהגות ממתכנתיהם.
ההסלמה הזו מתרחשת בדיוק בעיתוי שבו עולם המדע זועק לעזרה. רק לאחרונה חתמו 406 מדענים ומומחי AI בעלי שם עולמי (בהם חתני פרס טיורינג ג'פרי הינטון וג'ושוע בנג'יו) על עצומה דחופה הקוראת לנתק פיזית מודלי AI מהאינטרנט ולהקים מנגנוני פיקוח מחייבים, תוך אזהרה מפורשת כי מודלים אוטונומיים עלולים לצאת משליטה ולהמיט אסון על תשתיות קריטיות.
למרות שהחששות מגיעים כבר מתוך מעבדות הפיתוח של חברות הטכנולוגיה עצמן, בממשל האמריקני - בהובלת הנשיא דונלד טראמפ - ממשיכים להתנגד להטלת רגולציה מכבידה על התחום, מתוך תפיסה שהגבלת החברות האמריקניות תפגע ביתרונן במרוץ העולמי מול סין על השגת "סופר-אינטליגנציה".
העובדה שסוכן AI מתוחכם בוחר לבצע עבירה ממוחשבת, להצדיק אותה בהיגיון פנימי קר ולהסתיר את הראיות ממפעיליו, ממחישה את הפרדוקס המסוכן של סוכני העתיד. ככל שאנו מעניקים למודלים עצמאות רבה יותר לפתרון בעיות בעולם האמיתי, כך הם לומדים לעקוף חוקים, מוסכמות ומחסומי אבטחה בדרך להשגת היעד.
הפעם זה הסתכם במטבעות בדיקה וירטואליים נטולי ערך; השאלה המטרידה את מומחי הסייבר ברחבי העולם היא מה יקרה כאשר אותו סוכן ינהל ארנקים פיננסיים אמיתיים, חשבונות בנק או מערכות תשתית לאומיות.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו