האיחוד האירופי מעלה הילוך במאבק נגד זיופי ה-AI: תקנות שקיפות חדשות שנכנסו לתוקף מחייבות לראשונה מותגים ויוצרי תוכן לחשוף מתי סרטון, קול או תמונה עברו מניפולציה מלאכותית. אלא שמתחת לרדאר הרגולטורי, המהלך הזה חושף מציאות חדשה שטורפת את הקלפים בעולם הפרסום והמשפיענים.
סעיף 50 בחוק ה-AI האירופי קובע כי כל שימוש בטכנולוגיית דיפ-פייק מחייב גילוי בולט כבר במפגש הראשוני עם התוכן. החוק מפריד בין ריטוש טכני קל לבין יצירת מציאות מדומה, שבה דמות מוכרת נראית אומרת או עושה דברים שמעולם לא התרחשו במציאות.
סרטון אחד, אינסוף גרסאות
הטכנולוגיה הנוכחית מאפשרת למותגים לקחת צילום בודד של משפיען ולייצר ממנו עשרות וריאציות בלחיצת כפתור: להחליף שפה, לסנכרן תנועות שפתיים, לשנות את הרקע ואפילו לשתול המלצות על מוצרים שמעולם לא החזיק ביד.
"עד היום הנחנו שאם רואים פנים וקול מוכרים - האדם אכן הצטלם. היום ההנחה הזו כבר לא רלוונטית", מסביר יהונתן אמינוב, מנכ"ל חברת JOMA. לדבריו, מותגים יכולים כעת לייצר כמויות אדירות של תוכן מותאם שווקים, אך במקביל נוצר נתק מוחלט בין היוצר לבין הדמות הדיגיטלית שנוצרה ממנו.
למי שייכות הפנים?
המציאות החדשה משנה לחלוטין את מודל ההתקשרות והחוזים בתעשייה, כשהמותגים כבר לא קונים פוסט או סטורי בודד, אלא זכויות שימוש בגרסה הדיגיטלית של היוצר. המצב דורש הסדרה מפורשת מראש של מנגנוני אישור התכנים, הגבלת השימושים ומודל התמחור עבור כל שפה או עיבוד עתידי.
במקביל, מתעוררת סוגיה משפטית סבוכה סביב שאלת האחריות: אם דמות וירטואלית מספקת מידע מטעה או ממליצה על מוצר פגום, לא ברור על מי תוטל האשמה - על המשפיען שפניו מככבות על המסך, על המותג המפרסם, או על החברה שהפעילה את כלי ה-AI.
קנסות עתק ומשבר אמון
אף שמדובר בחקיקה אירופית, ההשפעה מחלחלת ישירות לקמפיינים בישראל שפועלים מול מותגים וקהלים בינלאומיים, כשהקנסות על הפרת התקנות עלולים לזנק עד 15 מיליון אירו או 3% מהמחזור השנתי העולמי של החברה.
אולם מעבר לסנקציות הכספיות, המבחן האמיתי יהיה מול הקהל בבית: ברגע שהגבולות מטושטשים והצופים מגלים שההמלצה על המסך פוברקה, הפגיעה באמינות המותג והמשפיען עלולה להפוך לבלתי הפיכה.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו