הפיתוח המואץ של בינה מלאכותית (AI) חדר גם לשוק המטבעות הקריפטוגרפיים, עם הבטחות למהפכה במסחר אוטונומי. סוכני AI, שמסוגלים לבצע עסקאות בבלוקצ'יין באופן עצמאי, נתפסו כצעד הבא בניהול השקעות דיגיטליות. אולם, מחקר חדש שפורסם באתר Ars Technica מטיל צל כבד על ההתלהבות, וחושף כי טכנולוגיות אלה רחוקות מלהיות בטוחות לשימוש נרחב, בשל פגיעויות אבטחה משמעותיות שמסכנות משתמשים ומשקיעים.
המחקר מתמקד במסגרת בשם ElizaOS, פלטפורמה שמאפשרת יצירת סוכני AI למסחר במטבעות קריפטוגרפיים בהתבסס על הוראות מוגדרות מראש. הפלטפורמה, שהוצגה באוקטובר 2024 תחת השם Ai16z ושונתה ל-ElizaOS בינואר 2025, זוכה לעניין רב בקרב תומכי ארגונים אוטונומיים מבוזרים (DAOs). סוכני ה-AI של ElizaOS יכולים להתחבר לפלטפורמות כמו מדיה חברתית, דוגמת דיסקורד, ולבצע פעולות כמו תשלומים או עסקאות בהתאם להנחיות המשתמש. היכולת הזו הופכת אותם לכלי מבטיח עבור משקיעים המבקשים להפוך תהליכים לאוטומטיים, תוך צמצום הצורך בהתערבות אנושית.
עם זאת, החוקרים זיהו חולשה קריטית במערכת: התקפה מסוג "מניפולציית הקשר" (context manipulation). התקפה זו מאפשרת לתוקפים לשתול זיכרונות כוזבים במאגר הנתונים החיצוני של הסוכן, המשמש כזיכרון מתמשך. במקרה שהודגם במחקר, התקפה בשרת דיסקורד גרמה לסוכן AI לשלוח תשלומים לארנק דיגיטלי של התוקף, במקום לזה של המשתמש החוקי. הסיבה לפגיעות זו טמונה בעובדה שהסוכן אינו מסוגל להבחין בין קלט מהימן לקלט זדוני, מה שחושף את המערכת לניצול קל יחסית.
הסיכון מועצם בשל העיצוב של ElizaOS, שמאפשר לסוכנים לשרת מספר משתמשים במקביל תוך שימוש בהקשר משותף. במצב כזה, מניפולציה של משתמש אחד עלולה לפגוע במערכת כולה, ולגרום לנזקים רחבי היקף שקשה לאתרם או לתקנם. לדוגמה, בוטים בדיסקורד המשמשים לתמיכה טכנית או לניהול קהילות עלולים להפוך למטרות אידיאליות להתקפות כאלה, מה שמסכן לא רק משתמשים בודדים אלא גם את הקהילה כולה.
החוקרים מדגישים כי למרות הפוטנציאל העצום של סוכני AI, הסיכונים הנוכחיים מחייבים זהירות רבה. המערכות הללו עדיין בשלבי פיתוח מוקדמים, והיעדר מנגנוני אבטחה מתקדמים מגביל את השימוש בהן. בעוד שהטכנולוגיה עשויה להציע יתרונות כמו יעילות מוגברת וצמצום טעויות אנוש, החולשות שנחשפו ממחישות כי הדרך להטמעה מסחרית בטוחה עדיין ארוכה. מפתחים ומשקיעים נקראים לבחון לעומק את הסיכונים, ולפתח פתרונות שיבטיחו הגנה מפני התקפות מתוחכמות יותר.
במבט לעתיד, תיקון החולשות במערכות כמו ElizaOS ידרוש שיפורים משמעותיים בארכיטקטורת האבטחה, כולל מנגנונים לאימות קלטים והפרדת הקשרים בין משתמשים. עד שיושגו התקדמויות כאלה, משקיעים בשוק הקריפטו נדרשים לנקוט משנה זהירות, ולא להיסחף אחר ההבטחות המלהיבות של המסחר האוטונומי.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו