קונטרול Z לבינה המלאכותית: פתרון חדש "מחזיר לאחור" טעויות של AI

חברת הסייבר והבינה המלאכותית רובריק, הנסחרת בבורסת ניו-יורק, חשפה השבוע פתרון טכנולוגי חדש שנועד להתמודד עם אחת הבעיות המרכזיות בפריסתסוכני בינה מלאכותית בארגונים: יכולת תיקון הטעויות שלהם. הפתרון, הנקרא "Agent Rewind", הוא הראשון מסוגו שמאפשר לארגונים לבצע ביטול בטוח של פעולות לא רצויות שביצעו סוכני AI.

רובריק פועלת בישראל כבר שנתיים, מאז רכישת הסטארט-אפ הישראלי למינאר, ובעקבות הרכישה הקימה את האתר המקומי שלה בארץ.

הצורך בפתרון נובע מהעובדה שבעוד שארגונים ממהרים לאמץ סוכני AI אוטונומיים בשל הפוטנציאל הרב שלהם, הם מתמודדים עם אתגר משמעותי: כיצד לתקן את הטעויות שהסוכנים עושים. מחקרים מראים שסוכני AI נוטים להתבלבל, לבחור בדרכי קיצור שגויות ולהיכשל במשימות רב-שלביות אפילו פשוטות יחסית.

בחודשים האחרונים תועדו מקרים בעייתיים של שגיאות סוכני AI, כולל מחיקת מאגרי נתונים שלמים, כמו שקרה לחברת Replit בחודש יולי.

"סוכני AI הופכים חזקים ועצמאיים יותר, אך מכיוון שהם פועלים באופן אוטונומי, השגיאות שלהם לרוב אינן מתגלות עד שהן משבשות מערכות קריטיות או פוגעות בנתונים רגישים", הסביר עמית שקד, סמנכ"ל אסטרטגיה ואבטחה ברובריק ישראל.

הטכנולוגיה החדשה, המופעלת על ידי תשתית AI של חברת Predibase, פועלת בשלושה מישורים עיקריים: ראשית, היא מספקת נראות מלאה לפעולות הסוכן - מה הוא עשה, איך הוא השתמש בכלים השונים ומה ההשפעה של כל פעולה. הפתרון ממפה כל פעולה עד לגורם השורש, החל מהפרומפט הראשוני, דרך התכנית ועד לכלים הספציפיים.

שנית, הטכנולוגיה מאפשרת שחזור בטוח של שינויים באמצעות השימוש ב-Rubrik Security Cloud. כאשר משהו משתבש, ניתן "להחזיר לאחור" את מה שהשתנה - בין אם מדובר בקבצים, במסדי נתונים, בתצורות מערכת או באחסנה של קוד.

בנוסף, הפתרון תוכנן להיות תואם למגוון רחב של פלטפורמות וכלים קיימים. הוא יכול להתקשר עם ממשקי תכנות שונים (APIs) ובוני סוכנים, כולל פתרונות של גיגנטי הטכנולוגיה כמו Agentforce של סיילספורס, Microsoft Copilot Studio ו-Amazon Bedrock Agents. כמו כן, הוא יתאים לכל סוכן AI מותאם אישית שפותח על ידי ארגונים.

לדברי שקד, "Agent Rewind ישנה את המשחק על ידי חשיפת התמונה המלאה: מה הסוכן עשה, מדוע הוא עשה זאת, ודרך מהירה ופשוטה להפוך את ההשפעה". הוא מוסיף כי "אימוץ AI יצליח להתרחב מהותית רק אם ארגונים יוכלו לסמוך על כך שהיא לא תהרוס בשקט את העסק שלהם".