זה התחיל כסרטוני בדיחה והטרלה בטיקטוק, המשיך לקבוצות פייסבוק והפך במהרה לטרנד ויראלי: גולשים בארה"ב ובבריטניה מצלמים את האוכל שקיבלו מ-Uber Eats או DoorDash, מעבירים את התמונה דרך עורך תמונות מבוסס בינה מלאכותית, ויוצרים גרסה מזויפת של המנה שנראית כמו בשר נא (בעיקר כשמדובר בהזמנות של המבורגרים), אוכל מקולקל או מוצר שהתפרק בדרך. כמה לחיצות, כמעט אפס מאמץ או ידע טכנולוגי וקבלת ההחזר כמעט מובטחת.
אבל מאחורי הטרנדהשטותי לכאורה, מתגלה תופעה מדאיגה של הונאות AI: מהירות, זולות, בלתי ניתנות לזיהוי ומסוכנות למסחר הדיגיטלי, כזו שפוגעת בקמעונאים וגם בצרכנים הישרים.
איך קשור סנאי לטרנד ולמה מדובר בתופעה מסוכנת
מחקר של חברת Forter המתמחה בזיהוי הונאות, מצא כי 45% מהצרכנים בארצות הברית ו-52% מהצרכנים בבריטניה הודו שניצלו לרעה את מדיניות ההחזרים של קמעונאים במהלך השנה האחרונה. Forter מדגישה כי מתוצאות המחקר עלה כי מדובר במעשים הנעשים בכוונה רעה, גם אם 58% מהלקוחות מרגישים אשמה ומודעים לכך שמה שהם עושים אינו מקובל (ועל הגבול האפור של חוקי כשמדובר בהונאה וזיוף).
במקביל, 68% מהצרכנים דיווחו שמדיניות ההחזרות של רשתות מסחר מקוונות קלה מדי לניצול, כשהמחקר הוסיף וצין כי כאשר מותגים מחמירים את הכללים בניסיון להילחם בתופעה 16% מהצרכנים פשוט מפסיקים לקנות מהם. התופעה מגיעה גם לידי מקרים קיצוניים שמדגישים את הפער בין זיוף למציאות - לקוח שטען לדוגמה שסנאי קרע את שקית המשלוח של מקדונלד'ס ואכל את הצ’יפס, הראה צילום ברור, ובמקרה הזה אמיתי, של הסנאי מביט למצלמה ובכל זאת DoorDash סירבה להחזיר את כספו. במקביל, ברשתות החברתיות צצים סיפורים על משתמשים שמדווחים בגלוי על זיופים, נותנים טיפים לגולשים אחרים, ומשתפים בגאווה את התמונות המזויפות שיצרו וההחזרים הכספיים שקיבלו.
המומחים מזהירים כי הבעיה אינה מוגבלת למזון בלבד וכיום מתועדות הונאות נוספות: עריכת תמונות של מוצרים כדי שייראו פגומים, זיוף צילומי מסך של עסקאות שנכשלו, שינוי תמונות של אישורי/מעקבי מסירות כדי לטעון שחבילה לא הגיעה, ואף יצירת קבלות, חשבוניות או שיחות שירות לקוחות מזויפות וכל זאת מתבצע כאמור בקלות בלחיצת כפתור וכמעט ללא ידע טכנולוגי כך שכמעט כל אחד יכול לעשות זאת - מה שבעבר דרש מומחיות ועבודה ממושכת, נעשה היום פשוט ומהיר באמצעות מערכות AI פתוח או מודלים חינמיים.
האירוניה היא שאותה טכנולוגיה שמייצרת את הבעיה ככל הנראה תהיה גם חלק מהפתרון. חברות גדולות יכולות לשלב "סימנים דיגיטליים" בלתי נראים או מטא דאטה שמצביעים שהצילום נוצר על ידי AI, אבל מה עם המודלים הפתוחים והכלים הזמינים לכל משתמש? כאן כבר מדובר במרוץ חימוש אמיתי שבו הכלים זמינים כמעט לכל אחד. הנזק הכלכלי והחברתי ברור: רשתות מסחר ומסעדות מפסידות כסף ומשקיעות משאבים עצומים בזיהוי זיופים, צרכנים ישרים נדרשים לעבור מסלול החזר ארוך ומסובך, מחירים עולים כדי לכסות על הנוכלים, וכך התופעה פוגעת בכל מערכת האמון שמבוססת על מסחר דיגיטלי.