נגמרו ההסתרות
אחרי קלוד: חותמות המים הנסתרות מגיעות ל-ChatGPT
ענקית הבינה המלאכותית מיישרת קו עם חוק השקיפות המחמיר ותחל להטמיע חותמות מים סמויות בטקסטים של ChatGPT • למרות החששות מנטישת משתמשים והשפעה על הביצועים, בחברה עומדים על כך שהסימון אינו פוגע באיכות הפלט

ענקית הבינה המלאכותית OpenAI הודיעה היום (שלישי) כי החל מהשבוע תחל להוסיף חותמת מים בלתי נראית לטקסטים המופקים על ידי ChatGPT ו-Codex בתחומי האיחוד האירופי. הצעד, שנחשף בבלוג הרשמי של החברה, נועד לעמוד בדרישות הנוקשות של חוק ה-AI האירופי (EU AI Act) שנכנס לתוקף לאחרונה, ומחייב חברות טכנולוגיה לסמן תכנים המיוצרים בידי בינה מלאכותית באופן שמערכות חיצוניות יוכלו לזהות.
למרות שהמהלך מוגבל נכון לעתה למשתמשים באיחוד, מפתחים בכל העולם יוכלו להפעיל את התכונה דרך ה-API של החברה לבחירתם (כאשר היא תישאר כבויה כברירת מחדל). בניגוד לכלים חיצוניים שמחפשים "שטיקים" סגנוניים, השיטה החדשה - שזכתה לשם textGrain ופותחה בשיתוף חוקרים מאוניברסיטת פנסילבניה וייל - פועלת ברמת בחירת המילים של המודל. המערכת משתמשת במפתח מוצפן כדי לכוון את בחירת המילים הנרדפות כך שיווצר דפוס מתמטי עקבי שאינו נראה לעין האנושית, אך ניתן לזיהוי באמצעות כלי ייעודי.
בחברה מרגיעים כי חותמת המים אינה פוגעת בביצועי המודל (מבחנים על מודל הדגל Astra הראו אפס פגיעה בביצועים במדדים השונים), אינה דורשת טוקנים נוספים, אינה משפיעה על מהירות התגובה ואינה חושפת את זהות המשתמש או את ההנחיות שלו.
עם זאת, בדיקות של OpenAI מראות כי החותמת אינה חסינה לחלוטין וכי קיימות מגבלות טכנולוגיות בולטות. טקסטים קצרים או כאלה שיש בהם פחות גמישות בבחירת מילים (כמו קוד או מתמטיקה) קשים הרבה יותר לזיהוי בהשוואה לטקסטים ארוכים וחופשיים כמו פסיכולוגיה. כך למשל, בבדיקות ברמת שגיאה של 1%, המערכת זיהתה חותמות בכ-80% מקטעים באורך 200 טוקנים, לעומת כ-95% בקטעים באורך 400 טוקנים.
בנוסף, עריכה כבדה שוחקת משמעותית את הסימון. החלפה של 10% בלבד מהמילים במילים נרדפות מפילה את שיעור הזיהוי מ-92% ל-66%, והחלפה של 25% מהמילים מורידה אותו ל-17% בלבד.
בשל סיכונים לתוצאות שגויות ופספוסים, OpenAI החליטה שלא לשחרר את גלאי החותמות לציבור הרחב בשלב זה, אלא להעניק גישה ראשונית לחוקרים מאושרים ולארגונים מומחים בלבד שיעזרו להעריך ולשפר את הטכנולוגיה.
בחברה מזכירים גם מה חותמת המים אינה יכולה לגלות. בין הפרטים: היא אינה מודדת מעורבות או יצירתיות אנושית, אינה קובעת בעלות או אחריות משפטית, והיעדר חותמת אינו מהווה הוכחה לכתיבה אנושית (שכן הטקסט יכול להיות קצר מדי, מתורגם, או ערוך בכבדות).
הכרזה זו מגיעה כחודש בלבד לאחר שמתחרותיה של OpenAI, ובראשן אנתרופיק (יוצרת קלוד), החלו בצעדים דומים - מהלך שעורר לא מעט ביקורת בקרב משתמשים ברשתות החברתיות שחששו מפגיעה בפרטיות. כעת ברור כי חותמות המים הסמויות הופכות לסטנדרט תעשייתי מחייב, שמשנה את כל מה שידענו על תוכן ממוחשב ברשת.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו