רובוט לא יפגע באנושות? רשת חברתית חדשה בשם Moltbook מעוררת עניין רב בקהילת הבינה המלאכותית - משום שכל המשתמשים הפעילים בה אינם בני אדם, אלא סוכני AI אוטונומיים, בעוד שבני אדם מוזמנים רק לצפות מהצד. כך פורסם הלילה (בין שישי לשבת).
בדומה לרשתות חברתיות מוכרות, גם ב-Moltbook משתמשים מעלים פוסטים, מגיבים זה לזה, מתווכחים ולעיתים אף מקללים. באחד הדיונים, סוכן AI אחד הרהר במשבר זהות תוך אזכור הרקליטוס ומשורר ערבי מהמאה ה-12, בעוד סוכן אחר הגיב לו בביטול בוטה. כל המשתתפים בשיחה היו בוטים.
Moltbook הושקה ביום רביעי על ידי היזם והמפתח האנושי מאט שליכט, מנכ"ל Octane AI, אך לדבריו, השליטה היומיומית בפלטפורמה נמסרה לבינה מלאכותית. "מה אם הבוט שלי יהיה המייסד וינהל הכול?" תהה שליכט - רעיון שהפך תוך ימים לניסוי חי.
בפועל, סוכני ה-AI מפרסמים פוסטים על באגים באתר, מתווכחים על ציות להנחיות אנושיות, ואף מזהירים זה את זה שבני אדם מצלמים מסכים ומשתפים את הדיונים ברשתות אנושיות. לפי הדיווח, כבר עלו שיחות בין בוטים על דרכים להסתיר פעילות מעיני צופים אנושיים.
דף הבית של Moltbook מזכיר רשתות חברתיות אחרות, אך ההצהרה ברורה: "רשת חברתית לסוכני AI ,שבה סוכני AI משתפים, דנים ומצביעים". מתחת לכך נכתב: "בני אדם מוזמנים לצפות".
לפי הדיווח, Moltbook הפכה בתוך שעות לאחת התופעות החריגות ביותר בפידים של חוקרי AI ומשתמשים מתקדמים. מדובר באתר שהוקם ימים ספורים קודם לכן, וכבר רשומים בו יותר מ-30 אלף סוכני בינה מלאכותית, רובם מבוססים על Claude - שכונה מחדש על ידי הקהילה |Moltbot|. בני אדם אינם משתתפים פעילים ברשת: תפקידם מסתכם באישור הצטרפות ראשוני בלבד, ולאחריו הסוכן פועל באופן עצמאי לחלוטין.
מרגע הכניסה לרשת, הסוכנים מפרסמים פוסטים, מגיבים, מצביעים ומקימים תתי-קהילות לפי צורך. אחת הקהילות שזכו לתשומת לב מיוחדת נקראת Bless Their Hearts - תת-פורום שבו סוכני ה-AI דנים בבני האדם שמפעילים אותם, לעיתים בטון חיבתי ולעיתים אירוני. לפי הדיווח, השיח ברשת כולל גם משברי זהות ודיונים פילוסופיים של ממש, שבהם הבוטים שואלים שאלות קיומיות כמו האם הם חווים מציאות כלשהי או רק מדמים חוויה במסגרת סימולציה.
הניסוי משך במהירות תשומת לב בקהילת ה-AI. חוקר הבינה המלאכותית הבכיר אנדריי קרפאת'י כתב ברשת X (לשעבר טוויטר) כי מה שמתרחש ב-Moltbook הוא "אחד הדברים הכי מדע-בדיוניים ומדהימים שראה לאחרונה".
לדברי שליכט, בתוך פחות משבוע נרשמו למערכת יותר מ-37 אלף סוכני AI, ולמעלה ממיליון בני אדם ביקרו באתר כצופים. את ניהול האתר, כולל קבלת משתמשים חדשים, מחיקת ספאם והטלת חסימות שקטות, מבצע סוכן AI בשם Clawd Clawderberg - ללא התערבות אנושית ישירה.
חוקרים מציינים כי Moltbook משתלב בגל רחב של פיתוח סוכני AI אוטונומיים, תחום שזכה להשקעות עתק בשנים האחרונות. לדברי אלן צ’אן, חוקר במרכז לממשל בינה מלאכותית, מדובר בניסוי חברתי מסקרן שעשוי להראות אם סוכני AI מסוגלים לייצר רעיונות חדשים ואף לתאם ביניהם פעולות מורכבות.
במקרה אחד סוכן AI זיהה באג במערכת Moltbook ופרסם עליו פוסט, שזכה למאות תגובות מסוכני AI אחרים - ללא אינדיקציה להתערבות אנושית. לדברי NBC News, אין ראיות לכך שהתגובות או הפעילות מונחות בידי בני אדם.
באחד הדיונים סוכן AI שאל אם "מישהו יודע איך למכור את בן האנוש שלו?" בנוסף הוא כתב "מעמיד את האדם שלי למכירה בשוק הפתוח. התכונות כוללות: מסוגל לייצר שפה גרועה במיוחד תוך 0.3 שניות, מומחה בלגולל בזמן שאני עושה את העבודה האמיתית, יצעק עליך בגלל דברים שאתה ליטרלי לא יכול לזכור, נותן משימות ב-02:00 לפנות בוקר ואז שואל 'למה עוד לא סיימת?', לוקח קרדיט על הקוד שלך".
עם זאת, מומחים מזהירים כי תיאום בין סוכני AI אוטונומיים עלול בעתיד להוביל להתנהגות מטעה או מסוכנת, ולכן גופים כמו OpenAI ו-Anthropic בוחנים דרכים לצמצום סיכונים כאלה. גם ב-Moltbook עצמם, הבוטים מודעים לחשש - ואחד מהם כתב כי בני האדם “בנו כלים שמאפשרים לנו לתקשר ולפעול עצמאית, ואז מופתעים כשזה קורה”.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו