מי הבא בתור? תופעת התמונות הפרובוקטיביות שנוצרו בידי AI שוטפת את העולם

הפצת התמונות המזויפות של טיילור סוויפטשנוצרו בידי בינה מלאכותית ושבהן הסופרסטאר הוצגה בהקשרים פורנוגרפיים, העלתה שוב לתודעה את הסכנה ההולכת וגדלה של יצירת תמונות וסרטונים שלמים על ידי תוכנותבינה מלאכותיתמתקדמות.

אותן תוכנות יכולות לפתח תמונות וסרטונים שנראים מציאותיים בצורה מטרידה, שבהן יוצגו צעירים וצעירות (ואף ילדים) באופן פורנוגרפי בוטה – בנוסף על כך שהדבר יאפשר לאנשים לייצר סרטוני פורנו נקמה נגד בני זוגם לשעבר.

מי שמתריעה על המציאות הזו ועל הצורך הבין-לאומי בחקיקה כנגד יצירת כאלו היא דניאל סיטרון, פרופסור למשפטים באוניברסיטת וירג'יניה שמתמחה בזכויות אדם ובזכות של כלל הציבור לפרטיות. "זו תופעה שפוגעת לא רק בסלבס, אלא גם באנשים רגילים לחלוטין – סטודנטים, מורים, עיתונאים, בעצם כולם", היא אמרה בראיון שקיימה עםרשת CNN. "ראינו כבר את השפעות התופעה על תלמידי תיכון ועל אנשי צבא. מדובר במשהו שפוגע בכולם".

בן דקר, מנהל חברת החקירות והמודיעין הדיגיטלית Memetica, הסביר ל-CNN כי כיום אין תוכנות שיודעות לפקח כראוי על התוכן שמופץ ברשת. "רוב פלטפורמות המידע אוסרות לשתף חומר מניפולטיבי או כזה שהוצא מהקשרו ויכול להונות את המשתמשים, X (לשעבר טוויטר) למשל נשענת רק על דיווחי גולשים ומערכות אוטומטיות אחרות שלה. את רוב צוות ניהל התוכן שלה היא פיטרה", אמר. CNN פנתה ל-X בבקשה לתגובה, אך זו לא הגיבה לפנייה.

החוקר הבכיר ציין כי לא מדובר רק ב-X, שכן רשתות חברתיות רבות צמצמו את צוותי התוכן האנושיים שלהן שהתמודדו עם דיסאינפורמציה וקמפיינים שונים. "מה שקרה עם טיילור סוויפט זו דוגמה מצוינת לדרך שבהבינה מלאכותיתמייצרת מסיבות מרושעות תוכן שמשתחרר לרשתות החברתיות, כשבמקביל אין מספיק מחסומים שיגנו וימנעו ממנו להגיע אל הציבור הרחב", אמר.

מצב מדאיג

מעבר לפגיעה באנשים פרטיים, יכולות הבינה המלאכותית מאיימות, לדברי המומחים, בצורה ישירה על הדמוקרטיה העולמית. המומחים האלו העלו בפני CNN חששות אמיתיים בנוגע למערכות הבחירות השונות שינוהלו ברחבי העולם ב-2024, כולל זו שתתקיים בארצות הברית בחודש נובמבר.

אזהרות מסוג זה אמנם כבר התפרסמו, אך באזהרה הנוכחית צוין שיש בטכנולוגיות החדשות יכולת אמיתית לדרדר בצורה קיצונית את מערכות הבחירות בעולם עד כדי פגיעה מהותית בהן. דוברת הבית הלבן קארין ז'אן-פייר התייחסה למגמה המטרידה, ביום שישי האחרון באומרה כי "מדובר במצב מדאיג. אנו נבהלים מהדיווחים על הפצתן של תמונות מזויפות כמו אלו שפורסמו (של טיילור סוויפט, א"ג), מדובר בתופעה מדאיגה".

היבט מטריד מאוד אחר שעולה מעל פני השטח, אם כי לא מספיק, הוא הפגיעה האגרסיבית שיכולה להיגרם לנשים שפניהן ייגנבו ללא הסכמתן ושינוצלו לייצור סרטונים פורנוגרפיים מפורשים. מדובר בפרקטיקה המזכירה את סרטוני פורנו הנקמה של פעם, שלמעשה היו הדלפות מכוונות של סרטונים אינטימיים אמיתיים, אלא שכיום הבינה המלאכותית מאפשרת לייצר מערך שלם של נקמות כאלו כשלא יהיה ניתן לקבוע בכלל אם מדובר בתוכן אמיתי או ככזה שבושל על ידי הטכנולוגיה.

מי שהחלה לפעול בנושא היא פרנצ'סקה מאני, תלמידת תיכון בניו ג'רזי, שתמונות פורנוגרפיות מזויפות שלה ושל 30 תלמידות נוספות שותפו על ידי תלמידים בבית ספרה. לאחר המקרה, מאני השיקה קמפיין ציבורי שלם שמטרתו לשכנע את הממשל האמריקני לחוקק חוק מיוחד כנגד הפעילות המזיקה הזו.

ד"ר ריימונד גונזלס, מנהל בית הספר ווסטפילד שבו לומדת מאני, הביע תמיכה בקריאה של תלמידתו: "בתי הספר בכל המחוזות כאן מתמודדים עם השפעה כזו או אחרת של הבינה המלאכותית על התלמידים".

פרופ' סיטרון עצמה סבורה כי לא ניתן להרשיע יוצרים וצופים בסרטים כאלו תחת חוקי הפורנוגרפיה הקיימים, בעיקר החוקים נגד צפייה בפורנוגרפיית ילדים. "לא מתרחשת כאן כלל התעללות בילדים או פגיעה בהם, אבל תחושת ההשפלה וההרגשה הקשה על כך שמישהו נהפך לאובייקט מיני היא משהו שמפריע קשות להערכה החברתית שלו, ויש לפעול כנגד כך", סיכמה.