אפליקציות הפשטה מבוססות בינה מלאכותית מסוגלות להפוך תמונה רגילה של אדם לבוש לתמונה אינטימית מזויפת שנראית אמיתית, והן כבר משמשות להטרדה, השפלה וסחיטה. כך מזהירים בחברת אבטחת המידע ESET, שמציינים כי בני נוער וצעירים נמצאים בין הקבוצות החשופות במיוחד.
הכלים, שמכונים בעולם Nudify, נעזרים בטכנולוגיית דיפ-פייק כדי לייצר מצילום של אדם לבוש גרסה שבה הוא נראה עירום, לעיתים ברמת אמינות שמקשה לזהות את הזיוף. התופעה עלתה לכותרות כבר בתחילת השנה, כשמשתמשים התלוננו שהבוט של אילון מאסק "הפשיט" אותם, אבל היקפה רחב בהרבה.
"העובדה שהתמונה נוצרה באמצעות AI ולא צולמה במציאות לא הופכת את הפגיעה לפחות חמורה", אומר אלכס שטיינברג, מנהל מוצרי ESET בקומסקיור, המפיצה הבלעדית של החברה בישראל. "מבחינת הקורבן, מספיק שהתמונה תגיע לחברים, למשפחה, לבית הספר או למקום העבודה כדי לגרום לנזק משמעותי".
תעשייה של מיליוני משתמשים
מחקר של שני מכוני מחקר בריטיים זיהה 181 אתרים שמציעים שירותי הפשטה מבוססי AI, שאליהם מגיעים יחד כ-40 מיליון מבקרים ייחודיים בחודש. מיליונים נוספים מגיעים אליהם דרך רשתות כמו יוטיוב, X, רדיט ופייסבוק.
לפי נתוני ESET, כמעט מחצית מבני הנוער בארה"ב דיווחו שנחשפו לתוכן מיני שנוצר ב-AI, וכרבע מהם סיפרו שהתוכן הציג אותם עצמם או מישהו שהם מכירים. "במקרים רבים לא נדרשת פריצה לחשבון", מסביר שטיינברג. "מספיק לקחת תמונה רגילה שכבר נמצאת ברשת".
איך מצמצמים את הסיכון
ב-ESET מדגישים שאין צורך להפסיק לפרסם תמונות, אבל כדאי לבדוק מי יכול לצפות בהן. ההמלצות: לעבור על הגדרות הפרטיות ברשתות החברתיות, לצמצם חשיפה של תמונות אישיות, להפעיל אימות דו-שלבי ולהיזהר לפני שמעלים תמונות לאפליקציות או לשירותי AI לא מוכרים. גם אפליקציה שזמינה בחנות הרשמית אינה בהכרח בטוחה.
מול ילדים, חשוב לדבר על התופעה, להסביר שגם תמונה תמימה יכולה לשמש לזיוף, ולוודא שהם יודעים לספר אם מישהו מאיים עליהם או דורש מהם משהו.
אם התמונה כבר הופצה
ההמלצה היא לא להיגרר לשיחה עם מי שעומד מאחורי האיום, ולשמור הודעות, שמות משתמש, קישורים, צילומי מסך ותאריכים. לאחר מכן יש לפנות לפלטפורמה ולבקש הסרה, ואפשר להיעזר בשירותים כמו StopNCII, ובמקרה של קטינים בשירות Take It Down. ניתן גם לבקש מגוגל להסיר את התוכן מתוצאות החיפוש, ומומלץ מאוד להגיש תלונה במשטרה. "ככל שפועלים מוקדם יותר, אפשר לשמור ראיות ולצמצם את ההפצה", מסכם שטיינברג.