במשך שלוש השנים האחרונות, המונח AGI (בינה מלאכותית כללית) היה הגביע הקדוש של תעשיית הטכנולוגיה - היעד המסתורי שבו המכונה משתווה ביכולותיה לאדם. אלא שבמסדרונות החשאיים של OpenAI, אנתרופיק וגוגל, הטרמינולוגיה כבר השתנתה. המילה החמה ביותר כיום בסיליקון ואלי היא RSI - ראשי תיבות של Recursive Self-Improvement (שיפור עצמי רקורסיבי).
במילים פשוטות: לא עוד מכונה שרק פותרת בעיות עבור בני אדם, אלא מערכת בינה מלאכותית שמתכנתת, משדרגת ומפתחת את גרסת ההמשך של עצמה. ברגע שהלולאה הזו תיסגר, וקצב השדרוג של המכונה יעקוף את היכולת האנושית, התהליך יהפוך לאוטונומי לחלוטין ויגבל אך ורק בכוח המחשוב שיוזרם אליו. בני האדם, במקרה הזה, יהפכו ללא רלוונטיים.
האוטוריטות כבר בפנים
השוק כבר מגיב לטירוף החדש. חוקר ה-AI הנודע ריצ'רד סוצ'ר השיק לאחרונה סטארט-אפ חדש שנקרא, באופן לא מפתיע, Recursive Superintelligence, כשהמטרה המוצהרת שלו היא להפוך את כל תהליך המחקר, הפיתוח והאימות של מודלי ה-AI לאוטומטי לחלוטין.
במקביל, אנדריי קארפתי, דמות אגדית בעולם ה-AI ומי שהיה המדען הראשי של טסלה וממייסדי OpenAI, מוביל פרויקט עצמאי בשם Auto-Research.
קארפתי משתמש ב"נחילי סוכנים" כדי לאמן מודלי שפה על משימות פיתוח. כעת, כשהוא הצטרף לאנתרופיק, המפתחת של קלוד, כדי לעבוד על שלבי קדם-האימון של המודלים הגדולים שלה, התעשייה כולה נושאת עיניים לראות מה יקרה כשהטכנולוגיה שלו תפגוש את כוח המחשוב המפלצתי של החברה.
סטארט-אפ בולט נוסף הוא Adaption, שהוקם על ידי יוצאות גוגל ו-Cohere, שחשף לאחרונה את כלי ה-AutoScientist שמיועד להפוך את אימון מודלי הקצה לאוטומטי לחלוטין.
המכונה שכותבת את עצמה
למרות שמנכ"ל גוגל, סונדאר פיצ'אי, ניסה לאחרונה להרגיע בראיון פודקאסט ואמר כי "אנחנו עדיין לא לגמרי שם", הנתונים מהשטח מראים שהמציאות קרובה בהרבה.
בתחילת השנה, אחד המתכנתים המובילים של כלי פיתוח הקוד Claude Code הודה בגלוי כי "קרוב ל-100%" מהקוד של הכלי נכתב על ידי הכלי עצמו.
בנוסף, מסקר פנימי שנערך באנתרופיק סביב גרסת התצוגה המקדימה של המודל החדש Claude Mythos, עלה כי חמישה מתוך 18 מהנדסי החברה מאמינים שבקרוב מאוד המודל יוכל להחליף לחלוטין מהנדס תוכנה אנושי בדרגת L4 (מתכנת ברמת ביניים שמסוגל לנהל פרויקטים מורכבים ללא פיקוח).
על פי הדוח, נקודות התורפה של קלוד בהשוואה למהנדס אנושי הן בעיקר משימות הדורשות ניהול עצמי ארוך טווח, הבנת סדרי עדיפויות ארגוניים ו"טעם אישי". במילים אחרות: המכונה מעולה בהכול, חוץ מאשר בלהחליט בעצמה מה לעשות - שזהו בדיוק הלב של חזון ה-RSI.
נקודת האל-חזור
הלן טונר, מנהלת המרכז לאבטחה וטכנולוגיה מתפתחת באוניברסיטת ג'ורג'טאון וחברת דירקטוריון OpenAI לשעבר, מסבירה כי יש להבחין בין שימוש ב-AI ככלי עזר למחקר, לבין ה-RSI הקלאסי שבו "אין יותר צורך בבני אדם".
טונר מפנה למודל של חוקרת ה-AI אג'ייה קוטרה מארגון METR, המגדיר שלושה שלבים קריטיים במרוץ ל-RSI.
1. שלב ה"כשירות" בו המערכת מסוגלת להמשיך לבצע מחקר ופיתוח גם אחרי שמנתקים ממנה את כל בני האדם - אפילו אם המחקר פחות איכותי. לפי ההערכות, אנחנו נמצאים ממש על סף השלב הזה כעת.
2. שלב ה"שוויון" שבו מערכת המנוהלת על ידי AI בלבד מגיעה להישגים זהים למערכת המנוהלת על ידי בני אדם בלבד.
3. שלב ה"עליונות" - נקודת המפנה הדרמטית. ברגע שה-AI יגיע לשוויון, קצב ההתקדמות יאיץ בצורה אקספוננציאלית, ותוך פחות משנה המכונה תעקוף לחלוטין את צוותי המחקר המשולבים של בני אדם וטכנולוגיה.
האם אנחנו בדרך לטיפוס חלק במעלה הסולם, או לקראת התנגשות בקיר מחסור החשמל וכוח המחשוב העולמי? המומחים חלוקים בדעתם, אך כולם מסכימים על דבר אחד: מרגע שהרקורסיה תתחיל לעבוד באמת, העתיד של האנושות יהפוך לבלתי ניתן לניבוי.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו