"רק מי שרוצה לשקר יתנגד"? ההחלטה של ענקית הבינה המלאכותית אנתרופיק להטביע חותמת מים סמויה ובלתי נראית בכל פלט של הצ'אטבוט קלוד הציתה בימים האחרונים סערה עזה. בעוד משתמשים ב-Reddit הגדירו את המהלך כ"קונספירציה" ועשרות מנויים ב-X (לשעבר טוויטר) הודיעו על ביטול התשלום החודשי, החברה פרסמה גילוי דעת מפורט שמסביר אחת ולתמיד: איך הטכנולוגיה עובדת, מי יוכל לזהות אותה, ומה עולה בגורלם של טקסטים שעברו הגהה בלבד.
חשוב לציין כי המהלך נועד ליישר קו עם קוד השקיפות המחמיר של חוק ה-AI האירופי (EU AI Act), אך בחברה מבהירים כי מדובר ב"שינוי פרדיגמה שיוחל גלובלית ואינו מוגבל למשתמשים ביבשת".
איך עובד הטריק הסטטיסטי?
בניגוד לכלים חיצוניים המחפשים "שטיקים" סגנוניים של מודלי שפה (כמו מבנה המשפט "זה אינו X, אלא Y"), אנתרופיק אימצה את מתודולוגיית SynthID-Text שפותחה במקור על ידי Google DeepMind. המנגנון מנצל צמתים שבהם למודל יש חופש בחירה בין מילים נרדפות בעלות משמעות זהה (כמו הבחירה בין "מעונן" ל"אפרורי"). בנקודות אלו, המערכת בוחרת באפשרות מסוימת שמייצרת יחד דפוס מתמטי עקבי.
• בלתי נראה לקורא: איכות התוכן, סגנונו וזרימתו נשארים זהים לחלוטין.
• זיהוי באמצעות מפתח: רק גורם שמחזיק במפתח הפענוח המוצפן יוכל לסרוק את הטקסט ולאמת את קיומו של הדפוס.
• ממשק זיהוי ייעודי: אנתרופיק הודיעה כי תשחרר ממשק פיתוח ייעודי (Watermark Detection API) שיאפשר זיהוי מהיר של טקסטים שעברו דרך קלוד.
"חותמת המים אינה משפיעה על איכות הפלט של קלוד", כתבו בבלוג הרשמי של אנתרופיק. "עבור הקורא האנושי, תשובה מסומנת אינה ניתנת להבחנה מתשובה ללא חותמת מים".
האם אפשר למחוק את החותמת בעריכה?
אחת השאלות הבוערות ביותר בקרב משתמשים הייתה היכולת "לטהר" את הטקסט מעקבות AI. כדאי לומר כבר עכשיו - שכתוב קל לא יספיק. שינויי ניסוח קלים או החלפת מילים בודדות כנראה לא ימחקו את חותמת המים הסטטיסטית במלואה. החלפה של כמעט כל מילה בטקסט תמחק את הסימון לחלוטין - אולם במקרה כזה, מדגישים בחברה, כבר ממילא קשה להגדיר את התוצר הסופי ככזה שנוצר על ידי מכונה.
ומה לגבי הגהה ותרגום? כאשר משתמש מעלה טקסט מקורי משלו ורק מבקש מקלוד לבצע תיקוני לשון קלים, לרוב המילים אין מקום שבו חותמת המים יכולה "להיאחז", ולכן הסימון לא יתגלה.
ומה לגבי מתכנתים?
בגזרת הקוד, אנתרופיק מספקת צפירת הרגעה למפתחים. כתיבת קוד דורשת תחביר מדויק ופונקציונלי שאינו מותיר למודל חופש בחירה סטטיסטי נרחב. לכן, הסימון הנסתר כמעט שלא יוטמע בשורות הקוד עצמן. כלומר, בטקסטים שבהם אין חופש בחירה במילים (כמו "2+2=4" או שמות היסטוריים/מדעיים דוגמת "Principia Mathematica"), המודל אינו יכול להטמיע חותמת מים, שכן כל שינוי יהפוך את התוכן לשגוי עובדתית.
החריג היחיד הוא הערות פנימיות או שמות משתנים שרירותיים שבהם יש חופש ניסוחי, אך בחברה מדגישים כי "ההשפעה על הקוד המעשי תהיה אפסית".
בגזרת ההרגעה, אנתרופיק מוסיפה כי "קיים היעדר פגיעה בעלויות, ביצועים וטוקנים". בחברה אומרים כי הטמעת החותמת לא צורכת טוקנים נוספים ולא מייקרת את עלות השימוש ב-API או במנוי. בנוסף, השפעת המנגנון על זמן התגובה והמהירות מוגדרת כ"זניחה" בלבד.
אנתרופיק מבהירה מפורשות כי קיומה של חותמת אינו משנה את זכויות היוצרים על הפלט, את הבעלות של המשתמש בתוכן או את האחריות המשפטית תחת תנאי השימוש. כמו כן, החותמת אינה כוללת מזהה משתמש, ארגון או מזהה צ'אט. אי אפשר לדעת מי הפיק את הטקסט, אלא רק שקלוד היה מעורב בכתיבתו.
באנתרופיק אף הוסיפו קריצה לכיוון המשתמשים הזועמים שממלאים בימים האחרונים את הרשתות החברתיות. אנתרופיק טוענת בתוקף כי משתמשים שינטשו את קלוד לטובת מתחרות יגלו מהר מאוד שמדובר בסטנדרט תעשייתי חדש: מפתחות מודלים מובילות נוספות כבר חתמו על אמנת השקיפות האירופית וצפויות להטמיע מנגנוני סימון דומים בעתיד הקרוב.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו