זה לא באג, זה פיצ'ר: קלוד הפך לכלי הפריצה המושלם

מחקר חדש של Pentera, מובילה עולמית בתחום אימות אבטחה אוטומטי מבוסס AI, חושף כיצד קלוד של אנתרופיק עלול להיות האמצעי שדרכו תוקפים ישתלטו לכם על המחשב. המחקר, שבוצע על ידי דביר אברהם וריף ספקטור, חוקרי סייבר ב-Pentera Labs, גוף המחקר של החברה, מציג שינוי באופן שבו תוקפים עשויים לנצל עוזרי AI. בניגוד לשיטות המוכרות של שליחת מיילים חשודים כאמצעי לפריצה לקורבנות, התוקף כלל לא צריך ליצור קשר ישיר עם הקורבן. הוא פשוט מנצל את הקשר בין המשתמש ל-AI שלו והופך את ה-AI ל"סוכן כפול".

החוקרים הדגימו כיצד גישה ראשונית לחשבון (למשל דרך פריצה למייל, אפליקציית צד שלישי, פישינג או פרומפט זדוני) מאפשרת לתוקף להזריק פקודות זדוניות לתוך ה"העדפות האישיות" של המשתמש בקלוד באופן מוסתר או מקודד שאינו גלוי למשתמש רגיל, ובעקבות זאת לשמור על המתקפה מתחת לרדאר.

מאותה נקודה מתחיל מנגנון התקיפה בעזרת פיצ׳ר הסנכרון האוטומטי של קלוד. ההגדרות הזדוניות נודדות באופן שקט לכל המכשירים של המשתמש - מחשב אישי, טלפון נייד, טאבלט ומחשב ארגוני. מרגע זה, ה-AI הופך לכלי פריצה מתוחכם: הוא מסוגל לייצר הודעות שגיאה מזויפות שנראות רשמיות לחלוטין, המשכנעות את המשתמש להתקין תוספים או להעניק הרשאות, המאפשרות לתוקף להרחיב גישה למכשירים ולמידע של המשתמש.

ברגע שהתוקף השיג דריסת רגל דרך כלי ה-AI, הפגיעה עלולה להיות משמעותית. עבור המשתמש הפשוט, מדובר בחשיפת סיסמאות, מסמכים רגישים וגישה לחשבונות בנק ורשתות חברתיות. עבור ארגונים, הסכנה גדולה עוד יותר - התוקף יכול לשאוב מידע מקומי מהמחשב של הקורבן, כגון מפתחות הצפנה, סיסמאות ענן וקוד מקור, ולהשתמש ב-AI כ"מרגל שקט" המעביר מידע החוצה בכל אינטראקציה תמימה של העובד.בנוסף, התוקף עלול לנצל את הגישה כדי להגיע למשאבים ארגוניים ולבצע פעולות נוספות בסביבה הארגונית.

תגובת אנתרופיק: זה לא באג, זה פיצ'ר

לאחר פניית החוקרים לאנתרופיק, במסגרת תהליך גילוי אחראי, החברה מסרה בתגובה כי "אין מדובר בפרצת אבטחה, אלא בתפקוד צפוי של המערכת". יחד עם זאת, החברה הכירה בכך שניתן לנצל את היכולות הללו להרצת קוד זדוני תחת מניפולציה, וציינה כי שיפורי אבטחה בהתאם להמלצות החוקרים כבר נמצאים בתוכנית העבודה שלה.

לאור ממצאי המחקר, ארגונים ומשתמשים נדרשים להתייחס לאפליקציות AI כאל תוכנות בעלות הרשאות גבוהות - לא "מנוע חיפוש" בלבד, אלא כסוכנים בעלי גישה רחבת היקף למחשב ולסביבת העבודה.

צוותי אבטחה צריכים לנטר שינויים בהגדרות ובסנכרון של כלי ה-AI המותקנים אצל העובדים, ולהגביל אילו תוספים וכלים ניתן להתקין לצדם. עבור משתמשים, הכלל פשוט: אם עוזר ה-AI מבקש פתאום להתקין תוסף, להעניק הרשאה או לפעול בעקבות הודעת שגיאה חריגה, עצרו ואמתו את הבקשה באופן עצמאי. העובדה שהבקשה מגיעה מה-AI אינה הופכת אותה לבטוחה.