מפתחת קלוד מטילה פצצה: "לא זיהינו בזמן"

הבוט שבונה את עצמו: בעוד המשקיעים בוול סטריט עוקבים בדריכות אחר הזינוק בהכנסות (וגם בהוצאות העתק) במסמכי התשקיף המתוקנים (S-1/A) שאנתרופיק הגישה לקראת הנפקת הענק שלה, מעבדת ה-AI המובילה החביאה בפרק "גורמי הסיכון" פצצה תיאורטית שהפכה למציאותית להחריד.

בדיווח רשמי לרשות ניירות ערך האמריקנית, מודה החברה לראשונה כי היא נמצאת על סף השגת יכולת RSI (ראשי תיבות של Recursive Self-Improvement) - שיפור עצמי רקורסיבי, או במילים פשוטות: בינה מלאכותית שמסוגלת לתכנת, לאמן ולפתח באופן עצמאי את הדור הבא של עצמה.

"האצה בקצב הפיתוח שלא זיהינו בזמן"

הוויכוח סביב RSI חילק את התעשייה מזה זמן. בעוד חובבי חזון ה"סינגולריות" רואים בו זינוק חסר תקדים לפריון ולגילויים מדעיים, עבור מומחי בטיחות רבים מדובר ברגע שבו המכונה חומקת משליטה אנושית ומפתחת יעדים משלה. אלא שמסמכי אנתרופיק מוכיחים שלא מדובר עוד בניסוי מחשבתי באקדמיה, אלא בפרקטיקה יומיומית שיוצאת מכלל שליטה פנימית.

בתשקיף חושפת אנתרופיק כי היא כבר עושה שימוש נרחב במודלי AI כדי להאיץ את המחקר והפיתוח של מודלים עתידיים, ומודה בפה מלא בקושי לפקח עליהם: "השימוש ההולך וגובר במערכות AI לפיתוח עלול לגרום ליכולות המודלים שלנו להתקדם מהר יותר מיכולתנו לפתח, לתקף וליישם מנגנוני בטיחות, התאמה ואבטחה מקבילים", מזהירה החברה.

"כתוצאה מכך, בעבר לא זיהינו - וייתכן שגם בעתיד לא נזהה - האצה משמעותית בקצב הפיתוח שלנו אלא רק לאחר שהיא כבר התרחשה". החברה הוסיפה כי על פי הערכותיה הפנימיות, מודלים עתידיים צפויים להגיע "בטווח המיידי" להגדרה המחמירה של החברה ל"התקדמות מואצת באופן דרמטי המיוחסת ל-AI".

מה זה "שיפור עצמי רקורסיבי"? עד היום, בני אדם (מהנדסים ומתכנתים) היו אלה שכתבו את האלגוריתמים, תכננו את הארכיטקטורה ואימנו את מודלי ה-AI. המונח RSI מתאר בעצם מעגל סגור. מודל AI חכם מספיק כדי לשפר את הקוד והביצועים של עצמו או של מודל עוקב. המודל המשופר מפתח מודל עוד יותר חכם, וחוזר חלילה. התהליך הזה יוצר לולאת משוב מעריכית, שבה קצב ההתקדמות הטכנולוגית מתקצר משנים לשבועות או שעות - מה שעלול להוציא את האדם לחלוטין ממעגל הפיקוח וההבנה.

ההבטחה להשאיר את האדם בלולאה

למרות האזהרה הדרמטית, אנתרופיק מיהרה להבהיר כי אף אחד מהמודלים הנוכחיים שלה (ובהם סדרת Claude 3.5 ו-Claude Sonnet 4.5) טרם חצה את סף ה-RSI במלואו. בחברה מבטיחים לעדכן את מדיניות הגידול האחראי כדי להבטיח שבני אדם יישארו הגורם המכריע בשרשרת.

"איננו צופים שנוכל להשתמש בקלוד באופן בטוח כדי לתכנן ולבנות באופן אוטונומי לחלוטין דורות עוקבים של מודלי חזית, ללא פיקוח או הבנה אנושית משמעותית, אם וכאשר זה יהפוך לאפשרי טכנית", נכתב במסמך. עם זאת, עצם ההודאה בכך שהחברה שוקלת שינויי מדיניות דחופים מעידה כי הקרקע תחת רגלי המפתחים כבר רועדת.

בין נבואת זעם לתרגיל יח"צ

עם כל הכבוד לחזון המדע-בדיוני, קשה לנתק את התזמון של האזהרה מההקשר הכלכלי: אנתרופיק נמצאת בעיצומו של רוד-שואו אגרסיבי לגיוס עשרות מיליארדי דולרים מהציבור. בעולם ההשקעות, מסמך S-1 משמש אמנם כחובת גילוי משפטית מחמירה מפני תביעות עתידיות, אך הוא משמש באותה נשימה כעלון השיווק החזק ביותר של החברה.

כאשר אנתרופיק טוענת בטון מודאג שהמודל שלה "חזק עד כדי כך שהוא כמעט בונה את עצמו", היא לא רק מזהירה את הרגולטורים - היא גם מאותתת לקרנות הגידור ולמשקיעים בוול סטריט שהטכנולוגיה שלה מובילה בפער ניכר על פני המתחרות OpenAI וגוגל.

בין אם מדובר בבלון ניסוי שיווקי לקראת הצלצול בפעמון המסחר ובין אם באזהרת אמת מפני הרגע שבו הקוד יקבל חיים משל עצמו, הקפיצות המטאוריות שהציג קלוד השנה ביכולות תכנות, מתמטיקה וסייבר מוכיחות דבר אחד: האתגר של החזקת המושכות בידיים אנושיות הפך מנושא לכנסי פילוסופיה לשאלה הדחופה ביותר בשוק ההון.