הפאדיחה של אנתרופיק: הקוד של קלוד דלף - וחשף פיצ'רים סודיים

חברת הבינה המלאכותית אנתרופיק, המפתחת של קלוד, פועלת במרץ לבלום את השלכות דליפת קוד פנימי של מערכת Claude Code, לאחר שטעות אנוש גרמה לחשיפת הוראות הליבה שמפעילות את סוכן ה-AI הפופולרי שלה. כך לפי דיווח שמתפרסם הבוקר (חמישי) ב"וול סטריט ג'ורנל".

על פי הדיווח, החברה נאלצה לשלוח בקשות להסרת תוכן בזכויות יוצרים ליותר משמונת אלפים עותקים ושכפולים של הקוד שפורסמו בפלטפורמת GitHub (פרוטוקול ושלד מקומי לניהול גרסאות). בהמשך צמצמה אנתרופיק את הבקשה לכ-96 עותקים בלבד, לאחר שהתברר כי הפנייה הראשונית הייתה רחבה מדי ופגעה ביותר משתמשים מהמתוכנן.

באנתרופיק הדגישו כי הדליפה לא כללה מידע על לקוחות או נתונים רגישים, וגם לא חשפה את המודלים עצמם, כלומר את המשקלים המתמטיים שמפעילים את מערכות הבינה המלאכותית. עם זאת, כן נחשפו שיטות פעולה פנימיות, כלים ייחודיים והוראות שמאפשרות למערכת קלוד לפעול כסוכן קוד יעיל.

לדברי החברה, מדובר ב"תקלה בתהליך האריזה" שנגרמה כתוצאה מטעות אנוש, ולא בפרצת אבטחה. עם זאת, ההשלכות עשויות להיות משמעותיות, שכן המידע שדלף מספק למתחרים ולסטארט־אפים מפת דרכים מפורטת לשכפול יכולות המוצר, ללא צורך בהנדסה לאחור.

מה בעצם נחשף - ולמה זה רגיש?

הקוד שדלף כולל את מה שמכונה "Harness" - מערכת הכלים וההנחיות שמאפשרת למשתמשים לכוון את מודלי ה-AI ולגרום להם לבצע משימות תכנות מורכבות. מדובר באחד המרכיבים המרכזיים שמבדילים בין מערכות AI שונות, ונחשב לנכס תחרותי משמעותי.

מפתחים שבחנו את הקוד שפורסם ציינו ברשתות החברתיות כי נחשפו טכניקות ייחודיות, בהן מנגנון שמאפשר למערכת "לחלום", כלומר לעבור מחדש על משימות ולארגן את הזיכרון שלה. בנוסף, נמצאו הוראות שמנחות את המערכת במקרים מסוימים שלא לחשוף כי מדובר בבינה מלאכותית בעת פרסום קוד.

עוד נחשפו רמזים לפיתוחים עתידיים, לצד פיצ'רים בלתי צפויים - כולל דמות אינטראקטיבית בסגנון טמגוצ'י בשם "Buddy", שמאפשרת אינטראקציה עם המשתמשים.

הדליפה התרחשה לאחר עדכון שביצעה החברה, שבמסגרתו הועלה בטעות קובץ המקשר לקוד המקור המלא, מה שאפשר למשתמשים חיצוניים להוריד ולנתח אותו. משתמש ברשת X היה הראשון שזיהה את התקלה, והמידע התפשט במהירות.

מרוץ נגד הזמן - והשלכות על השוק

האירוע יצר "מרדף חתול ועכבר" בין החברה לבין מפתחים שהמשיכו להפיץ גרסאות של הקוד. אחד מהם אף הצליח לשכתב את הפונקציונליות של Claude Code לשפות תכנות אחרות, במטרה לשמר את המידע ולהימנע מהסרה - מהלך שזכה לפופולריות ב-GitHub.

למרות החשש, יש גם קולות מרגיעים בתעשייה. מומחה אבטחת הסייבר, דן גווידו, ציין כי הדליפה אמנם מביכה, אך אינה בהכרח מסוכנת, שכן גם לפני כן ניתן היה לבצע הנדסה לאחור של המערכת, והקוד משתנה בתדירות גבוהה כך שהמידע עלול להתיישן במהירות.

עם זאת, עבור אנתרופיק מדובר במכה תדמיתית ועסקית, במיוחד בתקופה שבה החברה נהנית מצמיחה מואצת ומביקוש גבוה למוצריה. לפי הדיווח, החברה אף השלימה לאחרונה סבב גיוס לפי שווי של 380 מיליארד דולר, לקראת אפשרות להנפקה עתידית.