הודו סוערת בעקבות מקרה מטריד של שימוש בבינה מלאכותית ככלי לנקמה: תושבת העיר דיברוגאר גילתה להפתעתה כי זהותה נגנבה לטובת פרופיל אינסטגרם בשם Babydoll Archi, שהפך לתופעת רשת לוהטת.
החשבון צבר תוך זמן קצר יותר מ-1.4 מיליון עוקבים, זאת בזכות סרטונים חושפניים ותמונות ערוכות היטב. אחת מהתמונות אף הציגה אותה, לכאורה, לצד כוכבת הפורנו האמריקנית קנדרה לאסט - אך עד מהרה התברר שמאחורי הדמות כלל לא עומדת אישה אמיתית, אלא טכנולוגיה.
הפרשה נחשפה לאחר שתלונה שהגישה משפחתה של האישה הובילה למעצרו של בן זוגה לשעבר, מהנדס מכונות וחובב AI שהחליט "לנקום בה", לדבריו, לאחר סיום הקשר ביניהם.
בן הזוג השתמש בתמונות פרטיות של האקסית, ויצר פרופיל מזויף פרובוקטיבי שנראה כמעט זהה לה. בתחילה העלה תמונות מעובדות שלה, ובהמשך בנה דמות דיגיטלית של ממש בעזרת כלים מבוססי בינה מלאכותית כמו ChatGPT ו-Dzine. הוא אף הרוויח מהחשבון סכום מוערך של כמיליון רופי (כ-44 אלף שקל).
החשבון הפיקטיבי נחשף לציבור הרחב רק לאחר שתכניו החלו להופיע באמצעי תקשורת מקומיים. האישה עליה מתבסס החשבון הפיקטיבי אינה פעילה ברשתות, והיא כלל לא ידעה על קיומו. היא נחשפה אליו רק לאחר שהחשבון הפך לויראלי ופורסמו דיווחים כי "באבאידול ארצ'י" שוקלת להצטרף לתעשיית הפורנו בארה"ב.
המשטרה המקומית החרימה את מחשביו של יוצר הפרופיל, לצד החרמת מסמכיו הפיננסיים. הוא יועמד לדין באשמת הטרדה מינית, הפצת חומר תועבה, התחזות, השמצה ועבירות סייבר, מה שעשוי להוביל לעונש של עד עשר שנות מאסר.
המקרה עורר תגובות נזעמות ברשתות החברתיות. מומחית בינה מלאכותית ועורכת הדין מגנה באל אמרה ל-BBC: "מה שקרה לה מזעזע, אך קשה מאוד למנוע אותו. נשים סובלות מתופעות כאלה כבר שנים - אלא שכיום, בגלל הכלים הדיגיטליים, זה פשוט הרבה יותר קל לביצוע".
לדבריה, גם אם קיימים חוקים מתאימים, ייתכן שיש מקום להסדרה ייחודית שתחול על חברות בינה מלאכותית יוצרות, תוך שמירה על חופש הביטוי", אמרה. "דיפ-פייק, נניח, הוא לא בהכרח דבר רע - אבל הוא בהחלט יכול להפוך לנשק. יש לנסח חוקים בקפידה בכדי שלא לפגוע גם בחופש הביטוי".
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו