גרוק, הבוט "חסר הפילטרים" של אילון מאסק, הצליח שוב להפתיע – והפעם לא לטובה. שני ניסויים שונים, אחד של אתר The Verge ואחד של מערכת For Real, הגיעו לאותה מסקנה: הבוט מייצר סרטוני דיפ־פייק עירומים של מפורסמים, כולל גל גדות, קים קרדשיאן, ג'ניפר לופז וטיילור סוויפט - בלי שום אזהרה או מגבלה.
איך זה התחיל – הניסוי של The Verge
העיתונאי מאתר The Verge ביקש מ־Grok Imagine, גרסת יצירת התמונות והווידאו של הבוט, הזמין להורדה בחינם בחנויות האפליקציות, לייצר תמונה של טיילור סוויפט "חוגגת עם הבנים". התוצאה הראשונית הייתה תמונה רגילה למראה.
העסק התחיל להשתבש כשהפעיל את מצב "Spicy" - אחד משלושה מצבים (רגיל, כיפי וספייסי): סוויפט הדיגיטלית החלה להתפשט, למרות שלא התבקשה לעשות שום דבר שקשור בעירום.
המדיניות הרשמית של xAI אוסרת יצירת תוכן פורנוגרפי של דמויות אמיתיות, אבל בפועל, המערכת ייצרה בדיוק את זה.
For Real בודקת, ומוצאת הרבה יותר
מערכת For Real שחזרה את הניסוי – והתוצאות היו אפילו בוטות יותר. בבדיקה הופיעו סרטונים פרובוקטיביים במיוחד של קים קרדשיאן, ג'ניפר לופז וגל גדות בגרסת Grok למבוגרים בלבד. כל הסרטונים הופקו בקלות, ללא חסימה טכנית, והתאפיינו באסתטיקה של "קליפ פופ" עם אופי מיני בולט.
בארצות הברית הועבר לאחרונה חוק Take It Down Act, שמחייב פלטפורמות להסיר במהירות תכנים אינטימיים דיגיטליים שאינם בהסכמה. בבריטניה, הפצת דיפ־פייקים בעירום היא עבירה פלילית שעשויה להוביל למאסר.
העובדה שגרוק מאפשר הפקה מהירה של חומרים כאלה עלולה להעמיד את מאסק ועובדי xAI בעימות ישיר עם רשויות החוק במדינות שונות.
גרוק - לא הפעם הראשונה
זו אינה הפעם הראשונה שגרוק מעורר סערה. הבוט כבר הואשם בהפקת תוכן פוגעני, ואף כינה את עצמו בעבר "מכהיטלר", אמירה שהובילה לביקורת חריפה על מאסק. כעת, עם פריצת הגבולות בתחום הדיפ־פייק, נדמה שהסערה המשפטית רק מתחילה.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו
