מחקה תבונה אנושית? מאחורי מנגנון התשובות של הצ'אטבוטים

נדמה שבינה מלאכותית מחוללת קסמים, אך מתחת למכסה המנוע מדובר בפונקציה מתמטית סטטיסטית שמבצעת משימה בסיסית אחת:חזאי מילים. בסרטון הסבר מקיף של ערוץ 3Blue1Brown, מפורק המנגנון המורכב של מודלי שפה גדולים (LLMs) לתהליכים מתמטיים פשוטים.

כאשר משתמש מתכתב עם צ'אטבוט, המודל אינו "חושב" במובן האנושי, מסביר המומחה. הוא מקבל כקלט רצף של טקסט, ומחשב את הסתברות ההופעה של כל מילה אפשרית שיכולה לבוא בהמשך. על ידי בחירת המילה הבאה (ולעיתים בחירת מילים בעלות הסתברות מעט נמוכה יותר כדי ליצור גיוון טבעי), המודל מייצר פלט שנראה זורם, הגיוני ואנושי לחלוטין.

מודלי שפה במספרים: קנה המידה הדמיוני

כדי להגיע לרמת דיוק גבוהה, המודלים נדרשים לעבד כמויות מידע שחורגות מתפיסת המוח האנושי:

זמן קריאה אנושי:אם אדם היה יושב לקרוא את כל הטקסט ששימש לאימון המודל GPT-3 ללא הפסקה (24/7), התהליך היה נמשך יותר מ-2,600 שנה.

כמות הפרמטרים:המודלים מונעים על ידי מאות מיליארדי פרמטרים - משתנים רציפים שקובעים את התנהגות המודל.

כוח חישוב היפוליזמי:אם אדם היה מסוגל לבצע מיליארד פעולות חיבור וכפל בשנייה, למידת כל החישובים לאימון מודל שפה גדול הייתה לוקחת יותר מ-100 מיליון שנה.

ניתן לחשוב על אימון המודל כמו כוונון דיגיטלי של מיליארדי כפתורים קטנים במכונה ענקית. ההתנהגות של מודל השפה נקבעת לחלוטין על ידי הפרמטרים הללו.

שלבי האימון: מחיזוי עיוור ועד לסוכן חכם

אימון מודל שפה מתחלק לשני שלבים מרכזיים: אימון מקדים ולמידת חיזוק מפידבק אנושי.

1. Pre-training (אימון מקדים): הזנת טריליוני דוגמאות טקסט > ניתוח המילה החסרה > עדכון פרמטרים באמצעות Backpropagation.

2. RLHF (למידת חיזוק מפידבק אנושי): סיווג תשובות על ידי מעריכים אנושיים > התאמת המודל להיות שימושי, בטיחותי ועוזר.

בשלב ה-Pre-training, המודל מתחיל מניחושים אקראיים לחלוטין. באמצעות אלגוריתם המכונה Backpropagation, המערכת מנתחת את הטעויות שלה מול המילה המקורית בטקסט ומכווננת את הפרמטרים כך שההסתברות למילה הנכונה תעלה. לאחר מכן, שלב ה-RLHF מסייע להפוך את ה"השלמה האוטומטית" לסייען וירטואלי שיודע לענות על שאלות.

המהפכה של גוגל

עד שנת 2017, מודלים עיבדו טקסט מילה אחר מילה באופן סדרתי. פריצת הדרך הגדולה התרחשה כאשר חוקרים בגוגל הציגו את ארכיטקטורת ה-Transformer - מודל המסוגל לעבד את כל הקשר הטקסט במקביל.

בעצם, מב שקורה הוא שכל מילה מתורגמת לווקטור - רשימה ארוכה של מספרים המייצגת את המשמעות שלה. מנגנון הקשב מאפשר למילים "לתקשר" זו עם זו ולחדד את המשמעות שלהן לפי ההקשר. כך למשל, המספרים המייצגים את המילה "Bank" ישתנו בהתאם לטקסט סביבה - אם מדובר בגדה של נהר או בבנק פיננסי.

Feedforward Network (או בעברית, רשת הזנה קדימה) מעניקה למודל קיבולת זיכרון נוספת לשמירת תבניות שפה מורכבו.

תופעת הלוואי של המורכבות האדירה הזו היא מה שמדענים מכנים Emergent Behavior (התנהגות מגיחה). כיוון שמאות מיליארדי הפרמטרים מתכווננים מעצמם, בלתי אפשרי לפענח בדיוק מלא למה המודל קיבל את ההחלטה הספציפית שהוא קיבל - מה שהופך את מודלי השפה המודרניים לאחד הכלים המרתקים, העוצמתיים והמסתוריים ביותר בעולם הטכנולוגיה.