האם ChatGPT מסמן בסתר את הטקסטים שלכם?

משתמשים של ChatGPT, כלי הבינה המלאכותית הפופולרי מבית OpenAI, גילו כי המודלים החדשים, כמו o3 ו-o4-mini, עשויים להטמיע "סימני מים" סמויים בטקסטים שהם מייצרים. סימני מים אלה, בצורת תווים בלתי נראים או דפוסים סטטיסטיים, נועדו לסמן את התוכן כנוצר על ידי AI, אך מעוררים חששות בקרב משתמשים ומומחים.

מהם סימני המים של ChatGPT?

סימני מים דיגיטליים הם מעין "חתימה" סמויה שמוטמעת בטקסט. לדוגמה, תווי Unicode מיוחדים, כמו רווח צר (Narrow No-Break Space), או דפוסי מילים שנבחרו באופן מכוון, מאפשרים לזהות שהטקסט נכתב על ידי AI.

מטרתם היא היא להבטיח שקיפות, למנוע שימוש לרעה – כמו הגשת עבודות אקדמיות שנכתבו על ידי AI – ולהגן על זכויות יוצרים.

OpenAI טענה כי תווים אלה אינם סימני מים מכוונים, אלא תוצאה של תהליכי אימון מורכבים, המכונים "למידת חיזוק". עם זאת, משתמשים דיווחו על דפוסים חוזרים שנראים מכוונים, מה שהוביל לדיונים ברשת על כוונות החברה.

@willfrancis24

חששות ושאלות אתיות

הטמעת סימני מים מעוררת דיון ער. מצד אחד, הם מקדמים שימוש אחראי ב-AI; מצד שני, משתמשים חוששים שתוכנם יסומן כלא אותנטי, מה שעלול לפגוע בסטודנטים או יוצרי תוכן. סקר של OpenAI הראה כי 30% מהמשתמשים עלולים להפסיק להשתמש ב-ChatGPT אם סימני המים יוטמעו באופן גורף.

לפי ממצאים בגרסת בטא של אפליקציית האנדרואיד של ChatGPT (גרסה 1.2025.091), שחשף החוקר טיבור בלאהו, OpenAI בוחנת הטמעת סימני מים בתמונות שנוצרות על ידי משתמשים בחינם. הכלי ליצירת תמונות, שהושק כחלק מעדכון ChatGPT-4o בתחילת אפריל, זכה לפופולריות בזכות יצירת תמונות בסגנונות כמו אמנות בהשראת סטודיו ג'יבלי. עם זאת, דאגות על שימוש לרעה, כמו יצירת מסמכים מזויפים (למשל, תעודות זהות הודיות), הובילו את OpenAI לבחון את האפשרות לסימון תמונות.

באופן מעניין, משתמשים רבים עושים שימוש בכלים החדשים של OpenAI דווקא כדי להוריד "סימני מים" מתמונות שיש עליהן זכויות יוצרים.

המערכת עדיין בשלבי ניסוי ולא הוכרזה רשמית. לא ברור עד כמה סימני המים יהיו בולטים או האם משתמשים חינמיים יוכלו להוריד תמונות ללא סימון גלוי. אם תיושם, המערכת עשויה להפחית את הפצת מידע כוזב ויזואלי, אך עלולה להגביל את השימוש בתמונות על ידי משתמשים חינמיים, שייאלצו להתמודד עם סימונים שמתייגים את התוכן כמלאכותי.

ChatGPT updates

- Student Plus referral program now also available for Colombian students (Universidad Nacional de Colombia)

- new mentions of "shared posts" in addition to shared conversation, canvas and deep research in the web app

- the new ImageGen watermark is mentioned… pic.twitter.com/j4sYfWJXLB

— Tibor Blaho (@btibor91) April 5, 2025

כיצד להתגבר על סימני המים?

משתמשים שרוצים להסיר סימני מים יכולים להשתמש בכמה שיטות פשוטות:

• עריכת טקסט: שימוש בעורכי טקסט כמו Notepad לזיהוי והחלפת תווים בלתי נראים.
• שכתוב: כלים כמו HIX Bypass משנים את מבנה הטקסט, מה שמקשה על זיהוי הסימן.
• עריכה אנושית: שכתוב קל של הטקסט מוסיף "מגע אנושי" ומפחית את הסיכוי לזיהוי.

הדיון על סימני מים מדגיש את הצורך באיזון בין שקיפות לשימוש חופשי בטכנולוגיה. בעוד OpenAI ממשיכה לחקור שיטות סימון, משתמשים ומוסדות נדרשים להגדיר כללים ברורים לשימוש בבינה מלאכותית. בינתיים, הקהילה הטכנולוגית עוקבת בעניין רב אחר ההתפתחויות.