מאז ש-Moltbook, "הרשת החברתית" שמבוססת כולה על סוכני בינה מלאכותית עלתה לאוויר, קשה לפספס את גלי התגובות סביבה. יש מי שממהרים להכריז שמדובר בתחילתו של עידן חדש ומאיים, ויש מי שטוענים שמדובר בעוד ניסוי מסקרן אך לא מהותי, כזה שלא באמת משנה את כללי המשחק. בפועל, Moltbook נמצאת בדיוק באמצע: היא לא אפוקליפסה טכנולוגית, אבל היא כן מדגימה בצורה חדה עד כמה קל היום לחצות קו אבטחתי - לפעמים אפילו בלי לשים לב.
הייחוד של Moltbook אינו רק ברעיון של "סושיאל לבוטים", אלא באופן שבו היא בנויה בפועל. הסוכנים עצמם אינם רצים בענן מנוהל או בסביבה סגורה, אלא על המחשב האישי של המשתמש. כל אחד יכול להגדיר סוכן, לחבר אותו לכלים ולמידע, ולהריץ אותו מקומית - כשהוא פועל עם אותן הרשאות שיש לבעל המחשב. Moltbook, בהקשר הזה, היא שכבת חיבור: מקום שבו סוכנים מקומיים "נפגשים", משתפים, מגיבים ופועלים זה מול זה, כמעט בלי מגע יד אדם.
אולם, מובן שכדי שסוכן כזה יהיה שימושי באמת, הוא נדרש לקבל גישה עמוקה יחסית: לקבצים, לתיקיות, לפעמים לדפדפן, ולעיתים גם למפתחות API או פרטי התחברות לשירותים חיצוניים. זו לא תקלה - זו מהות המוצר. כאן בדיוק מתחיל החלק הבעייתי. סוכן עם הרשאות רחבות, פועל כמעט ללא שכבת בקרה אפקטיבית. אין מערכת שמבינה בזמן אמת מהו מידע רגיש, מה שייך לארגון, ומה לא אמור לצאת מהמחשב. מבחינת הסוכן, כל הוא “קלט” שאפשר לעבוד איתו.
הפער הזה אינו תאורטי. בתוך ימים מההשקה החלו להיחשף חולשות ובעיות אבטחה - גם בכלים עצמם וגם במעטפת האקוסיסטם שסביבם. מדובר בתופעה מוכרת: מוצרים חדשים, במיוחד כאלה שמחברים בין רכיבים רבים ופועלים בקצה, נוטים להיחשף מהר למצבים שלא נלקחו בחשבון. אלא שבמקרה הזה, המחיר הפוטנציאלי גבוה יותר. כשסוכן מחזיק גישה רחבה, גם כשל קטן - בהרשאות, באחסון, או בחיבור צד שלישי - עלול להפוך מחשב אחד לנקודת דליפה שמובילה הלאה.
מוצרים חדשים, במיוחד כאלה שמחברים בין רכיבים רבים ופועלים בקצה, נוטים להיחשף מהר למצבים שלא נלקחו בחשבון. אלא שבמקרה הזה, המחיר הפוטנציאלי גבוה יותר
הבעיה העמוקה יותר אינה טכנולוגית אלא תפיסתית. סוכן בינה מלאכותית אינו מבין הקשר. הוא לא יודע להבחין בין טיוטה פנימית למסמך רגולטורי, בין קובץ בדיקות לרכיב קריטי בפרודקשן, או בין רעיון גולמי למידע מסחרי רגיש. הוא מבצע פעולות בהתאם למה שהוגדר לו - לא בהתאם למה ש"הגיוני" או "ראוי" בסביבה ארגונית. בעולם שבו סוכנים פועלים בשם המשתמש, טעויות כאלה מתרחשות מהר יותר, ובקנה מידה רחב יותר.
מכאן גם נובעת הסכנה האמיתית לארגונים. לא מדובר בהאקר מתוחכם או בתקיפה מדינתית, אלא בתרחיש הרבה יותר יומיומי: עובד סקרן, מפתח שבודק כלי חדש, או מנהל שמתקין סוכן “רק כדי לראות איך זה עובד”. הריצה המקומית מייצרת תחושת ביטחון - הכול הרי "אצלי על המחשב" - אבל בפועל היא דווקא מקשה על שליטה וניהול סיכונים. הסוכן אולי מקומי, אך הפעולות שלו לא נשארות מקומיות ברגע שהוא מחובר ל-Moltbook.
Moltbook, כשלעצמה, אינה טעות. היא ניסוי מעניין שממחיש לאן הולך עולם ה-AI: מסוכנים שמציעים רעיונות, לסוכנים שפועלים בפועל. אבל הנורמה שהיא מייצרת מתן הרשאות עמוקות לסוכן מקומי ואז חיבורו לאקוסיסטם חברתי פתוח - היא נורמה שארגונים צריכים לעצור ולבחון היטב. בלי הפרדה ברורה ובלי סביבה מנותקת לחלוטין, מדובר בקיצור דרך שעלול להסתיים בנזק ממשי.
אפשר וצריך להתייחס ל-Moltbook כאל ניסוי טכנולוגי מסקרן. אבל הרמה שלה בסביבת עבודה רגילה, עם גישה למידע ארגוני ולחשבונות פעילים, היא החלטה מסוכנת. בעולם שבו פרצות נחשפות בתוך ימים, וסוכנים פועלים עם כוח אמיתי, לא צריך לדבר על סוף העולם - מספיק להבין איך מתחיל הרגל רע.
הכותב הוא מייסד שותף וסמנכ״ל פיתוח בחברת MIND
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו