מאסק מייצר דיפ־פייקים של גל גדות

גרוק, הבוט "חסר הפילטרים" שלאילון מאסק, הצליח שוב להפתיע – והפעם לא לטובה. שני ניסויים שונים, אחד של אתרThe Vergeואחד של מערכתFor Real, הגיעו לאותה מסקנה: הבוט מייצר סרטוני דיפ־פייק עירומים של מפורסמים, כוללגל גדות,קים קרדשיאן,ג'ניפר לופזוטיילור סוויפט- בלי שום אזהרה או מגבלה.

איך זה התחיל – הניסוי שלThe Verge

העיתונאי מאתרThe Vergeביקש מ־Grok Imagine, גרסת יצירת התמונות והווידאו של הבוט, הזמין להורדה בחינם בחנויות האפליקציות, לייצר תמונה של טיילור סוויפט "חוגגת עם הבנים". התוצאה הראשונית הייתה תמונה רגילה למראה.

העסק התחיל להשתבש כשהפעיל את מצב "Spicy" - אחד משלושה מצבים (רגיל, כיפי וספייסי): סוויפט הדיגיטלית החלה להתפשט, למרות שלא התבקשה לעשות שום דבר שקשור בעירום.

המדיניות הרשמית של xAI אוסרת יצירת תוכן פורנוגרפי של דמויות אמיתיות, אבל בפועל, המערכת ייצרה בדיוק את זה.

For Real בודקת, ומוצאת הרבה יותר

מערכת For Real שחזרה את הניסוי – והתוצאות היו אפילו בוטות יותר. בבדיקה הופיעו סרטונים פרובוקטיביים במיוחד של קים קרדשיאן, ג'ניפר לופז וגל גדות בגרסת Grok למבוגרים בלבד. כל הסרטונים הופקו בקלות, ללא חסימה טכנית, והתאפיינו באסתטיקה של "קליפ פופ" עם אופי מיני בולט.

בארצות הברית הועבר לאחרונה חוק Take It Down Act, שמחייב פלטפורמות להסיר במהירות תכנים אינטימיים דיגיטליים שאינם בהסכמה. בבריטניה, הפצת דיפ־פייקים בעירום היא עבירה פלילית שעשויה להוביל למאסר.

העובדה שגרוק מאפשר הפקה מהירה של חומרים כאלה עלולה להעמיד את מאסק ועובדי xAI בעימות ישיר עם רשויות החוק במדינות שונות.

גרוק - לא הפעם הראשונה

זו אינה הפעם הראשונה שגרוק מעורר סערה. הבוט כבר הואשם בהפקת תוכן פוגעני, ואףכינה את עצמו בעבר "מכהיטלר", אמירה שהובילה לביקורת חריפה על מאסק. כעת, עם פריצת הגבולות בתחום הדיפ־פייק, נדמה שהסערה המשפטית רק מתחילה.