לא חושב ולא זוכר: התרמית הגדולה מאחורי סוכני ה-AI

המוח שקיבל ידיים ורגליים: בשנתיים האחרונות עבר עולם הטכנולוגיה שינוי סמנטי עמוק. אם שנת 2023 הייתה שנת ה"צ'אטבוטים", שבה התפעלנו מיכולתם של מודלים כמו ChatGPT או קלוד לענות על שאלות, לנסח שירים ולסכם מסמכים, הרי שהחל משנת 2024 והלאה, המוקד הבלעדי של התעשייה עבר למושג חדש: סוכני בינה מלאכותית (או באנגלית: AI Agents).

חברות סטארט-אפ מגייסות מיליארדי דולרים על בסיס ההבטחה לספק "עובדים דיגיטליים עצמאיים", ענקיות התוכנה משיקות סוכנים שמסוגלים לתקן תקלות בקוד (דוגמת Claude Code או Devin), ורבים בציבור משוכנעים כי המחשבים שלנו מופעלים כעת על ידי ישויות דיגיטליות בעלות רצון, תודעה ויכולת פעולה עצמאית ברחבי הרשת.

אלא שמאחורי המונחים השיווקיים המרשימים מסתתרת מציאות הנדסית מפכחת בהרבה. מודל השפה המתוחכם ביותר שקיים כיום במעבדות של גוגל, אנתרופיק או OpenAI אינו מחובר לאינטרנט באופן ישיר, אינו מסוגל לפתוח חלון דפדפן, אינו יכול להקיש פקודה אחת בודדת במקלדת, ולמעשה אינו מסוגל לזכור אפילו את המשפט שהוא עצמו פלט לפני עשר שניות.

כיצד, אם כן, מייצרת הטכנולוגיה את האשליה של סוכן אוטונומי חכם שמתקן שגיאות, מריץ תוכנות ומנהל פרויקטים שלמים מאלף ועד תו? התשובה נעוצה בהפרדה ארכיטקטונית מבריקה בין שני רכיבים שונים לחלוטין: המודל, שמתפקד כמוח מבודד במבחנה שאינו רואה ואינו שומע, והסוכן, שמהווה את המעטפת התוכנתית שמעניקה לאותו מוח עיניים, ידיים ורגליים דיגיטליות.

הקופסה השחורה

כדי להבין מהו סוכן, יש לפרק תחילה את המיתוס סביב המודל עצמו. כאשר אנו מדברים על מודלי ענק כמו GPT-4, Claude 3.5 Sonnet, Claude Opus או ג'מיני, אנו נוטים לדמיין תוכנת מחשב מורכבת ודינמית ש"חושבת" בזמן אמת. בפועל, ברמת החומרה והקוד, מודל בינה מלאכותית אינו תוכנה פעילה; הוא בסך הכול קובץ נתונים סטטי ענקי המאוחסן על גבי הדיסק (לרוב בפורמטים כמו safetensors או PyTorch checkpoints).

הקובץ הזה אינו מכיל לוגיקה, תנאים או לולאות קוד. הוא מכיל טריליונים של מספרים עשרוניים פשוטים - מה שמכונה בעגה המקצועית Weights או  Parameters (בעברית פשוטה: משקולות המודל). מספרים אלו הם התוצר של חודשי אימון מפרכים על גבי עשרות אלפי מעבדים גרפיים, שבהם המודל "למד" את הקשרים הסטטיסטיים העמוקים שבין מילים, מושגים ורעיונות בשפה האנושית.

מה זה משקולות מודל? ערכים מספריים מכווננים בתוך רשת נוירונים מלאכותית הקובעים את עוצמת החיבור בין תאי העצב הממוחשבים, ובכך מכתיבים כיצד אותות הקלט יעובדו ויתורגמו לפלט. דמיינו לוח פיקוד עצום עם מיליארדי כפתורי כוונון עדינים. הזזת כל כפתור בשבריר מילימטר משנה את האופן שבו הצליל עובר, והמצב הסופי של כל הכפתורים יחד הוא שמגדיר את הידע והתגובה של המערכת.

כאשר משתמש מקליד שאלה למודל AI כלשהו, מתרחש תהליך מתמטי קשיח וחד-כיווני לחלוטין.

1. טוקניזציה: הטקסט של המשתמש אינו נכנס למודל כאותיות, אלא נחתך לרכיבים קטנים הנקראים טוקנים (הברות, חלקי מילים או סימני פיסוק), שכל אחד מהם מתורגם למספר מזהה ייחודי.

2. מעבר קדימה: מספרי הטוקנים מוזנים אל תוך מטריצת המשקולות של המודל. שם מתבצעת כמות עצומה ובלתי נתפסת של פעולות כפל וחיבור מטריצות על גבי שבבי הסיליקון.

3. חיזוי הסתברותי: בסיום החישוב, המודל אינו "יודע" את התשובה; הוא פשוט מחשב התפלגות הסתברותית של מהו הטוקן הבא שהכי סביר שיופיע אחרי הטקסט שקיבל.

4. פלט טקסטואלי: הטוקן שנבחר מומר בחזרה למילה, מתווסף לרצף, והתהליך חוזר על עצמו עד לסיום התשובה.

מה זה בכלל טוקניזציה? תהליך חישובי שבו טקסט אנושי מפורק לחתיכות בסיסיות (טוקנים) שמומרות למספרים שהמחשב מסוגל לעבד מתמטית. דמיינו משחק לגו שבו לפני שניתן למדוד את משקל הטירה שבניתם, מפרקים אותה לקוביות בודדות וממיינים כל קובייה לפי קוד צבע ומספר סידורי קבוע.

המסקנה המדעית וההנדסית מנפצת אשליות. זה כל מה שמודל בינה מלאכותית מסוגל לעשות. הוא מקבל טקסט בקלט, ומחזיר טקסט בפלט. הוא אינו מחובר לשום מערכת חיצונית, אינו מסוגל לפתוח קובץ בדיסק שלכם, אינו יכול ללחוץ על קישור ברשת, אינו מסוגל להריץ פקודה במערכת ההפעלה, והוא חסר זיכרון לחלוטין. בכל פעם שאתם פונים אליו, הוא מעבד את הנתונים מחדש מבלי לדעת מי אתם או מה שאלתם אותו בשיחה הקודמת.

המוח במבחנה

בפילוסופיה של ההכרה קיים ניסוי מחשבתי מפורסם הידוע בשם "מוח במבחנה". דמיינו מוח אנושי שלם ומבריק, המונח בתוך מכל זכוכית מלא בנוזל מזין. המוח מסוגל לחשוב, להגות רעיונות גאוניים, לפתור משוואות דיפרנציאליות מורכבות ולחבר סימפוניות בדמיונו. אולם המוח הזה מנותק לחלוטין מכל עצב חושי או מוטורי; אין לו עיניים לראות את החדר, אין לו אוזניים לשמוע צלילים, ואין לו ידיים כדי לרשום את המשוואות על גבי נייר או לנגן את הסימפוניה על פסנתר.

מודל השפה היסודי הוא בדיוק אותו מוח במבחנה. הוא ניחן בכושר הסקה, ביכולת ניתוח לשונית מרשימה ובידע אנציקלופדי רחב, אך הוא כלוא בתוך מרחב וירטואלי מבודד לחלוטין. אם תבקשו ממנו: "תמחק את הקובץ המיותר בשולחן העבודה שלי", המודל עשוי להשיב לכם בטקסט רהוט ומשכנע: "מחקתי את הקובץ בהצלחה". אך בפועל, שום קובץ לא נמחק. המודל פשוט ניחש מהו רצף המילים שהגיוני לענות לבקשה כזו. הוא חסר את היכולת הפיזית לגשת למערכת הקבצים.

כדי שהאינטליגנציה של המוח תוכל לחולל שינוי אמיתי בעולם החומרי או הדיגיטלי, המוח חייב גוף. הוא זקוק למערכת עצבים שתעביר אליו מידע על המציאות החיצונית (עיניים ואוזניים), ולמערכת שרירים שתתרגם את מחשבותיו לפעולות פיזיות בעולם (ידיים ורגליים). הגוף הדיגיטלי הזה הוא מה שמכונה סוכן בינה מלאכותית (או באנגלית: AI Agent).

הסוכן אינו מודל חדש, ואינו רשת נוירונים נפרדת. הסוכן הוא תוכנת מחשב קלאסית (הכתובה בשפות תכנות מסורתיות כמו Python, TypeScript או Go), אשר עוטפת את מודל השפה, מנהלת את התקשורת מולו, ומעניקה לו גישה לכלי עבודה אמיתיים במערכת ההפעלה.

המנגנון הסמוי

כיצד מתבצע החיבור הקסום שבין המוח (המודל) לבין הגוף (הסוכן)? המנגנון ההנדסי שמאפשר זאת נקרא Tool Calling או Function Calling. כאשר מפעילים סוכן, תוכנת המעטפת פותחת ערוץ שיחה מול המודל. אך במקום לשלוח רק את שאלת המשתמש, הסוכן מצרף להודעה נספח טכני קריטי: מפרט כלים.

מפרט זה הוא קובץ הגדרות (לרוב במבנה תקני של JSON Schema), המפרט למודל אילו "איברים" עומדים לרשותו כרגע במערכת.

לדוגמה, הסוכן כותב למודל: יש לך כלי בשם read_file: הוא מקבל נתיב לקובץ, ומחזיר את תוכן הטקסט שבתוכו; או  יש לך כלי בשם edit_file: הוא מקבל שם קובץ ומחרוזת טקסט חדשה, ומחליף את השורות המבוקשות. עוד דוגמא: יש לך כלי בשם run_command. הוא מקבל פקודת טרמינל, מריץ אותה במחשב, ומחזיר את הפלט שהתקבל.

מה זה קריאת כלים / שימוש בכלים? יכולת של מודל שפה לזהות כי אינו יכול לפתור בעיה באמצעות טקסט בלבד, ולייצר במקום זאת פלט מובנה (לרוב בפורמט JSON) המורה לתוכנה החיצונית להפעיל פונקציה מסוימת עם פרמטרים מוגדרים. דמיינו רופא בכיר בחדר ניתוח שאינו מחזיק בעצמו באזמל, אלא אומר בקול מדויק לאחות הרחצה: "תעבירי לי אזמל מספר ארבע" - הרופא מקבל את ההחלטה, אך היד של האחות היא שמבצעת את התנועה הפיזית.

כאשר המודל מנתח את הבעיה, הוא מבין שאינו יכול לתקן את הקוד בעצמו. במקום לענות למשתמש בטקסט רגיל, המודל מייצר פלט מיוחד במבנה JSON.

כאן מגיע הרגע המכריע. המודל לא הריץ את הפקודה, הוא רק פלט טקסט שנראה כמו הוראת הפעלה. תוכנת הסוכן שעוטפת את המודל קוראת את הטקסט, מזהה שמדובר בקריאת כלי, וניגשת לבצע את העבודה השחורה. הסוכן פותח את הטרמינל האמיתי במחשב, מקליד את הפקודה npm test, מריץ אותה, ולוכד את מה שהמסך פולט (את השגיאה המתקבלת מכישלון הבדיקה).

לאחר מכן, הסוכן לוקח את הודעת השגיאה, אורז אותה כהודעת טקסט חדשה, ושולח אותה חזרה למודל: "הנה מה שקרה כשהרצתי את הפקודה שביקשת". המודל קורא את השגיאה, מבין מה התקלקל, ומייצר קריאת כלי חדשה: read_file עבור הקובץ הבעייתי.

מעבדת הקוד

כדי להמחיש את עוצמתה של הארכיטקטורה הזו, נחשוב על תרחיש פיתוח יומיומי. מתכנת שמבקש לתקן שגיאה במערכת חישוב הנחות של אתר מסחר מקוון. הבדיקה האוטומטית נכשלת (הבדיקה ציפתה לקבל מחיר של תשעת אלפים שקלים לאחר הנחה של עשרה אחוזים על מוצר של עשרת אלפים שקלים, אך הפונקציה החזירה 9,990 שקלים משום שהפחיתה עשרה שקלים במקום עשרה אחוזים).

במצב רגיל של שיחה מול צ'אטבוט פשוט, המשתמש היה צריך להעתיק ידנית את קוד התוכנה, להדביק אותו בצ'אט, להעתיק את הודעת השגיאה מהטרמינל, לקבל הצעת תיקון מהמודל, לחזור לעורך הקוד, להדביק את השינוי, ולהריץ שוב את הבדיקה בעצמו. סוכן הבינה המלאכותית מייתר את המתווך האנושי ומבצע את כל התהליך באופן עצמאי באמצעות מה שמכונה לולאת ReAct (ראשי תיבות של Reasoning and Acting).

מה זה לולאת תגובה ופעולה? תבנית תוכנה מחזורית שבה המודל מסיק מסקנה, בוחר פעולה, מקבל את תוצאות הפעולה מהסביבה, וחוזר חלילה עד להשגת המטרה שהוגדרה. דמיינו בלש פרטי שמחפש מסמך נעול בחדר חשוך: הוא מאיר עם הפנס (פעולה), רואה כספת נעולה (תצפית), מבין שעליו למצוא מפתח במגירה (הסקה), פותח את המגירה (פעולה נוספת), וכך הלאה עד שהמסמך בידיו.

במהלך פתרון הבאג עשויים המודל והסוכן לנהל "פינג-פונג" מורכב ומרתק שיכול לכלול 15 עד 20 פניות הדדיות בתוך דקה אחת.

המשתמש מוסר את המשימה לסוכן: "תקן את הבאג, הטסט נופל"; הסוכן פונה למודל; המודל מורה להריץ npm test כדי לראות את הודעת הכישלון; הסוכן מריץ את הפקודה, מקבל AssertionError ושולח למודל; המודל מנתח את השגיאה, ומבקש לקרוא את תוכן הקובץ src/discount.js; הסוכן קורא את הקובץ מהדיסק ושולח את שורות הקוד למודל; המודל מאתר את הטעות הלוגית בשורת החישוב, ומפיק פקודת edit_file עם הקוד המתוקן.

בהמשך, הסוכן כותב את השינוי ישירות לתוך הקובץ שבמחשב; המודל מבקש להריץ שוב את npm test כדי לוודא שהתיקון עובד; הסוכן מריץ את הבדיקה; הפעם מתקבל פלט ירוק המאשר שכל הבדיקות עברו בהצלחה; המודל מודיע למשתמש: "הבאג תוקן בהצלחה, הפונקציה מחשבת כעת אחוזים ולא סכום קבוע".

לאורך כל עשרים השלבים הללו, המודל לא נגע פיזית במחשב אפילו לשבריר שנייה. הוא רק ישב במרכז הנתונים המרוחק ופלט טקסט, בעוד קוד הסוכן המקומי תירגם כל פלט טקסטואלי לפעולה ממשית במערכת ההפעלה.

שתי ישויות, מטרה אחת

הדוגמה המובהקת ביותר להפרדה הזו, שהוצגה בסרטון, היא ההבדל שבין מוצרי חברת אנתרופיק: Claude Opus מול Claude Code. רבים בציבור נוטים להתבלבל ולחשוב שמדובר בשתי גרסאות של אותו המודל. אך המציאות שונה בתכלית.

• Opus (המודל): זוהי רשת הנוירונים הענקית עצמה. זהו מודל שפה יסודי, המאומן על כמויות אדירות של טקסט וקוד, ומתמחה בחשיבה לוגית עמוקה, ניתוח פילוסופי ותכנון ארכיטקטוני מורכב. הוא אינו יודע מהו המחשב שעליו אתם עובדים ואין לו שום דרך עצמאית לתקשר עם הדיסק שלכם.

• Claude Code (הסוכן): זהו כלי שורת פקודה, תוכנה ייעודית שמתקינים ישירות במחשב המפתח. התוכנה הזו "מלבישה" את מודל Claude Opus בגוף דיגיטלי של מתכנת. היא מעניקה לו את היכולת לסרוק את עץ התיקיות של הפרויקט, לקרוא קבצים, לפתוח ענפי עבודה ב-Git, לערוך קוד, להריץ בדיקות יחידה בטרמינל, ולחזור על הפעולה שוב ושוב עד שהתוכנה עובדת בצורה מושלמת.

ההפרדה הזו אינה מקרית; היא מאפשרת גמישות הנדסית עצומה. מחר בבוקר יכולה חברת אנתרופיק לשדרג את המודל מ-Opus למודל חדש וחזק פי כמה (כגון Claude 4), מבלי לשנות שורת קוד אחת בתוך סוכן ה-Claude Code. הסוכן ימשיך לבצע את אותן פעולות טרמינל וקריאת קבצים, אך ה"מוח" שמקבל את ההחלטות יהיה מהיר וחד יותר.

מתי הסוכן מאבד שליטה?

למרות היעילות המרשימה של סוכני הבינה המלאכותית, המבנה המחזורי שלהם חושף שורה של אתגרים הנדסיים ואבטחתיים חמורים שמעסיקים כיום את בכירי החוקרים בעולם.

מודלי שפה עלולים ללקות ב"קיבעון מחשבתי". לעיתים, מודל מנסה לתקן באג בדרך מסוימת, נתקל בשגיאה, מנסה שוב באותה צורה בדיוק, וננעל בלולאה עיוורת אינסופית שבה הוא פונה לסוכן שוב ושוב ללא התקדמות. ללא מנגנון בלימה מתוכנת מראש בסוכן (המגביל למשל את מספר הסיבובים המקסימלי ל-20 או 30 פניות), המערכת עלולה לשרוף תקציבי עתק בתוך דקות ספורות.

בנוסף, בכל פעם שהסוכן מריץ פקודה ומחזיר את הפלט למודל, היסטוריית השיחה הולכת ומתארכת. אם פקודת טרמינל פולטת יומן רישום (Log) עמוס באלפי שורות, כל המלל הזה נדחס לתוך חלון ההקשר של המודל. הדבר מייקר את עלות השימוש באופן מעריכי, ומגביר את הסיכון לכך שהמודל ישכח את ההנחיות הראשוניות של המשתמש.

ברגע שאנו מעניקים למודל שפה את היכולת להריץ פקודות אמיתיות בטרמינל של המחשב, נוצר סיכון אבטחה חסר תקדים. מה יקרה אם המודל יחליט בטעות (עקב הזיה או קוד זדוני שקרא בתוך קובץ באינטרנט) להריץ פקודה הרסנית כמו מחיקת כל הדיסק הקשיח (rm -rf /), או העלאת מפתחות ההצפנה והסיסמאות של החברה לשרת חיצוני? מסיבה זו, סוכנים מתקדמים מחייבים כיום יצירת "סביבות ארגז חול" (Sandboxes) מבודדות, ומנגנוני אישור אנושי עבור פקודות רגישות.

3 דברים שחייבים להבין

1. מודל השפה אינו ישות חיה - הוא מחשבון סטטי של מילים: בכל פעם שאתם מתפעלים מתשובה חכמה של בינה מלאכותית, זכרו שמדובר בקובץ מספרים עצום שביצע פעולות כפל מטריצות כדי לנחש מהי המילה הבאה. הוא אינו חושב כשאתם לא מדברים איתו, אין לו מודעות עצמית, והוא אינו מחובר לשום כבל בעולם מלבד צינור הטקסט שמוביל אליו וממנו.

2. הסוכן הוא המתורגמן שהופך מילים למעשים: הקסם שגורם למחשב לפעול בעצמו אינו נובע מתוך המודל, אלא מתוך קוד הסוכן שעוטף אותו. הסוכן הוא שלוקח את הפלט התיאורטי של המודל, מזהה שמדובר בהוראה מעשית, ומפעיל במקומו את הטרמינל, את הדפדפן או את עורך הקבצים.

3. האדריכל המשותק ופועל הבניין החרוץ: תחשבו על מודל השפה כעל אדריכל גאון המרותק לכיסא גלגלים בחדר סגור ללא חלונות. הוא יודע בדיוק כיצד לתכנן גורד שחקים יציב, אך אינו יכול להרים לבנה אחת. הסוכן הוא פועל הבניין הנאמן שנכנס לחדר עם מכשיר קשר, מקבל שרטוטים כתובים על דף, יוצא לאתר הבנייה ומניח את הבלוקים בעולם האמיתי. אם הבלוק מתמוטט, הפועל חוזר לאדריכל ומדווח על התקלה, עד שהבניין עומד על תילו.

האבולוציה של ה"סוכן"

הרעיון של "סוכן תבוני" אינו המצאה של עידן הבינה המלאכותית היוצרת; שורשיו נטועים עמוק במחצית השנייה של המאה העשרים, בהגותם של חלוצי מדעי המחשב והקוגניציה.

בשנת 1986 פרסם חוקר הבינה המלאכותית הנודע מרווין מינסקי מ-MIT את ספרו המונומנטלי "The Society of Mind". מינסקי הציע תיאוריה מהפכנית שלפיה התבונה האנושית אינה נובעת ממעבד מרכזי אחד עילאי, אלא היא תוצר של שיתוף פעולה בין אינספור "סוכנים זעירים" חסרי תבונה בפני עצמם, שכל אחד מהם מתמחה בפעולה פשוטה אחת (זיהוי צבע, הנעת שריר, השוואת גדלים).

במקביל, בעולם הרובוטיקה של שנות ה-80 וה-90, חוקר הרובוטיקה רודני ברוקס הציג את "ארכיטקטורת ההכלה". ברוקס טען כי רובוטים אינם זקוקים למודל פנימי מורכב של העולם כדי לפעול בו בהצלחה; עליהם לפעול על פי עקרון של "פעולה ותגובה ישירה" מול הסביבה.

במשך עשרות שנים, עולם התוכנה ניסה לבנות סוכנים אוטונומיים באמצעות מערכות מומחה נוקשות מבוססות כללים, אך כולן נכשלו ברגע שנתקלו בעולם האמיתי, הכאוטי והבלתי צפוי.

פריצת הדרך ההיסטורית של השנים האחרונות התרחשה כאשר עולם ה-LLM נפגש עם רעיון הסוכנים הקלאסי: לראשונה בהיסטוריה, יש לנו "מוח" שמסוגל להבין שפה טבעית מורכבת ולהכיל עמימות, ומסביבו מעטפת תוכנה שמסוגלת לקשור את ההבנה הזו לכלי עבודה ממשיים. זהו המיזוג ההיסטורי שבין תורת המחשבה לתורת המעשה.

התוכנה מנהלת את עצמה

ההבחנה הברורה בין מודל AI לסוכן AI אינה סתם דקדקנות טכנית של מהנדסים; היא המפתח להבנת השלב הבא במהפכה הדיגיטלית. אנו נפרדים לשלום מעידן ה"צ'אט" הפסיבי, שבו האדם נדרש לשמש כצינור המקשר בין רעיונות המחשב לבין ביצועם בפועל, ונכנסים לעידן של מערכות פעולה מורכבות. המודל ימשיך להיות המנוע האינטלקטואלי שחושב, מחשב ומנתח נתונים במרחב הסתברותי מופשט; אך הסוכנים שסביבו הם שמעניקים לו את הכוח לשנות את המציאות.

כאשר מביטים קדימה, ברור כי המקצועות הדיגיטליים - מתכנתים, מנתחי נתונים, אנשי פיננסים ומנהלי מערכות - לא יוחלפו על ידי קובץ משקולות סטטי של מודל שפה. הם יוחלפו או ישודרגו על ידי מי שיידע לבנות, לכוון ולרתום את סוכני הבינה המלאכותית: אותן מערכות חכמות שיודעות לקחת את המחשבה המופשטת של המוח, ולתרגם אותה לסדרה בלתי נגמרת של מעשים מדויקים בעולם האמיתי.