כתבתם עם ChatGPT? בקרוב יהיה אפשר לזהות את זה
OpenAI תשלב סימן מים סמוי בטקסטים שייווצרו באירופה, בהתאם לדרישות החוק • השיטה מציגה עד 92 אחוזי הצלחה בזיהוי, אך שינויים קלים בטקסט מערימים עליה • מחוץ לאירופה הסימון יהיה כבוי כברירת מחדל
| עודכן:

חברת OpenAI הודיעה כי תחל בקרוב להטמיע אוטומטית סימן מים בטקסטים המיוצרים באמצעות ChatGPT ברחבי האיחוד האירופי. החברה תציע את תכונת הסימון גם באזורים אחרים בעולם, אך מחוץ לאירופה היא תהיה כבויה כברירת מחדל.
המהלך ביבשת האירופית נובע מהצורך לעמוד בדרישות חוק הבינה המלאכותית של האיחוד (EU AI Act), אשר נכנס לתוקף בחודש אוגוסט האחרון. החוק מחייב לסמן תוכן המופק על ידי מודלים של בינה מלאכותית באופן שניתן יהיה לזיהוי באמצעות כלי אחר. עם זאת, נכון להיום, עדיין לא קיימת דרך יעילה ואמינה לחלוטין לעשות זאת.
אמנם קיימים כבר מספר תקנים בשוק, כדוגמת SynthID ופרויקט C2PA, אך בעלי ידע טכני בסיסי יכולים לעקוף אותם בקלות יחסית. מצב דומה צפוי גם עם שיטת סימן המים של OpenAI, אשר מהווה פיתוח קנייני של החברה וזכתה לשם textGrain.
כך פועלת השיטה החדשה
החברה כבר פרסמה מסמך טכני המסביר את אופן הפעולה של textGrain. בדומה לכלים קודמים לסימון מודלי שפה, המערכת שותלת תבניות ייחודיות בבחירת המילים. תבניות אלו אינן ברורות לקורא האנושי ואינן פוגעות משמעותית באיכות התוצר הכללית.
כדי לזהות את התבניות הללו, נדרש גורם בעל מפתח ספציפי שישתמש בגלאי ייעודי. ב-OpenAI מציינים כי יעניקו גישה לגלאי למספר מוגבל של חוקרים וארגונים. בהמשך, החברה צפויה לספק תהליך של בקשת אישור להצטרפות גורמים נוספים.
אפשר לעקוף את זה?
במקרה הטוב ביותר, בדיקות החברה לשיטת textGrain מציגות שיעור זיהוי מכובד, אך לא לחלוטין אמין, של 92 אחוזים. מנגד, הבדיקות חושפות גם את חולשות המערכת: שינוי של עשרה אחוזים בלבד מהטקסט מפחית את שיעור ההצלחה בזיהוי בכמעט 30 אחוזים. באופן דרמטי יותר, שינוי של 20 אחוזים מהטקסט יכול להפיל את שיעור ההצלחה בכמעט 75 אחוזים.
בנוסף, מנתוני החברה עולה כי שיעור ההצלחה הכללי נמוך יותר עבור טקסטים קצרים או מתורגמים בהשוואה לטקסטים ארוכים. נתונים אלו תואמים ברובם את הביצועים של פתרונות מקבילים שראינו בעבר בשוק. תכונת הסימון החדשה תופעל כברירת מחדל באפליקציות ChatGPT ו-Codex באירופה ותושק למשתמשים שם בשבועות הקרובים. בממשק הפיתוח (API) היא תישאר כבויה אך זמינה לבחירה אופציונלית.
בחודש אוגוסט האחרון הציגה גם חברת אנתרופיק (Anthropic), המתחרה ב-OpenAI, סימן מים לטקסטים המיוצרים על ידי המודלים שלה. אולם בניגוד לזו שמפעילה כעת את התכונה כברירת מחדל רק היכן שהרגולציה מחייבת זאת, אנתרופיק בחרה להפעיל את המערכת שלה באופן גלובלי.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו