דוח חדש, שפורסם באתר WIRED, חושף כי רשת נרחבת של אתרים המספקים שירותי "הפשטה" באמצעות בינה מלאכותית הפכה לעסק רווחי של מיליוני דולרים, תוך השתמטות מאכיפה משמעותית מצד ענקיות הטכנולוגיה.
המחקר, שנערך על ידי חברת "אינדיקטור" המתמחה בחקירת הטעיות דיגיטליות, בחן 85 אתרי "נודיפיי" (nudify) ו"הפשטה" - שירותים המאפשרים למשתמשים להעלות תמונות של נשים וילדות וליצור באמצעות בינה מלאכותית תמונות עירום מזויפות תוך כמה לחיצות.
הממצאים מדאיגים: באתרים מבקרים כ-18.5 מיליון משתמשים בממוצע בכל חודש בחצי השנה האחרונה, וההכנסות המשוערות שלהם מגיעות לכ-36 מיליון דולר בשנה.
אחסון והפצת תוכן
המחקר מגלה כי רוב האתרים מסתמכים על שירותי תשתית של חברות טכנולוגיה גדולות: אמזון וקלאודפלייר מספקות שירותי אחסון והפצת תוכן ל-62 מתוך 85 האתרים, בעוד מערכת ההתחברות האוטומטית של גוגל מופיעה ב-54 מהם.
"המגמה הזו הפכה לעסק רווחי", אומר ל-WIRED אלכסיוס מנטסרליס, מייסד שותף של "אינדיקטור" וחוקר בטיחות מקוונת. "הגישה הליברלית של עמק הסיליקון לבינה מלאכותית יוצרת אפשרה להתנהגות הזאת להמשיך להתקיים".
האתרים מרוויחים בעיקר ממכירת "נקודות זכות" או מינויים המאפשרים למשתמשים ליצור תמונות.
פגיעה בילדות ונשים
השימוש באתרים האלו גורם לנזק רב. תמונות מרשתות חברתיות נגנבות ומשמשות ליצירת תמונות מעליבות. ואכן, צעירים ברחבי העולם יצרו תמונות של חברותיהם לכיתה - צורה חדשה של בריונות רשת והתעללות.
על פי המחקר, מרבית הגולשים לאתרים מגיעים מארצות הברית, ואחריה מדורגות הודו, ברזיל, מקסיקו וגרמניה. האתרים מקבלים תנועה הולכת וגדלה ממקורות מקוונים שונים מעבר למנועי חיפוש.
תגובות חלשות מהענקיות
חברות הטכנולוגיה סיפקו ל-WIRED תגובות פושרות לטענות נגדן. דובר של AWS של אמזון אמר שלחברה יש "תנאי שירות ברורים" הדורשים מלקוחות לפעול על פי החוק, ושהיא פועלת במהירות כנגד הפרות כשמדווחים לה עליהן.
דובר גוגל אמר כי "חלק מהאתרים האלו מפרים את התנאים שלנו, והצוותים שלנו נוקטים פעולה כנגד ההפרות".
אולם, בחודשים האחרונים נראים סימנים ראשונים של התמודדות: בדנמרק רוצים להעביר חוק שיסדיר שימוש בפנים ובקול של תושבי המדינה, התובע הכללי של סן פרנסיסקו תבע 16 שירותי יצירת תמונות אסורות, מיקרוסופט זיהתה מפתחים מאחורי דיפ-פייקים של סלבריטאים, ומטא הגישה תביעה נגד חברה שלכאורה עומדת מאחורי אפליקציית הפשטה.
בנוסף, חוק "Take It Down", שעליו חתם הנשיא דונלד טראמפ במאי, מחייב חברות טכנולוגיה להסיר במהירות תמונות מעליבות לא מוסכמות.
עם זאת, מנטסרליס טוען כי נדרשת אכיפה קפדנית יותר: "אם חברות הטכנולוגיה יהיו פרו-אקטיביות יותר ונוקשות יותר באכיפת המדיניות שלהן, היכולת של האתרים האלו לשגשג תפחת משמעותית".
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו