בעקבות דיפ-פייקים מיניים: גרוק של אילון מאסק מסתבך

גרוק, כלי יצירת התמונות של רשת X (לשעבר טוויטר), ייצר בתוך פחות משבועיים עשרות אלפי תמונות פוגעניות של קטינים. כעת נפתחות חקירות רגולטוריות בכמה מדינות, ועל הפרק עומדת השאלה האם האפליקציה תוסר מחנויות האפליקציות המרכזיות.

Highlights

• בתוך 11 ימים ייצר גרוק כשלושה מיליון תמונות פוגעניות. כ-23 אלף מהן של ניצול קטינים.
• הקצב: תמונה מסוג זה אחת בכל 41 שניות בממוצע.
• שתי חקירות אירופאיות מקבילות; הנציבות האירופית חוקרת בנפרד.
• משרדי החברה בפריז נכנסו לחקירות; הליכים מקבילים בבריטניה, ספרד, קליפורניה, אוסטרליה וקנדה.
• חסמים טכניים שהוטמעו לאחרונה אינם מספיקים - משתמשים עוקפים את הסינון.
• בחנויות האפליקציות של אפל וגוגל גובר לחץ פוליטי להסרת האפליקציה.

בסוף דצמבר 2025 השיקה X תכונת עריכת תמונות חדשה בגרוק. כמעט מיד, משתמשים החלו לנצל אותה. פקודות כמו "הורד לה את הבגדים" או "שים אותה בביקיני" הפעילו את הכלי על תמונות של נשים אמיתיות - ומה שנוצר הופץ בפיד הפתוח של X, לעיני כל.

לפי מחקר של ארגון Center for Countering Digital Hate, בפחות משבועיים ייצר גרוק כשלושה מיליון תמונות מיניות מפורשות. בין אלה אלפי תמונות שנראה כי כוללות מאפיינים של קטינים. המספרים הללו הם שהציתו את גל החקירות.

הכלי כונה בתוך X בשם "Spicy Mode". שלא כמו מודלים מתחרים שבנו מסנני תוכן לתוך ארכיטקטורת הבסיס, גרוק אפשר בשלב הראשוני ביצוע פקודות ה"פשטה" ישירות בפיד הציבורי - כלומר התמונות שנוצרו היו גלויות לכולם, לא רק ליוצר. זה הפך אותן לחומרי הפצה, לא רק ייצור.

כישלון מבני - לא אירוע בודד

מרבית ממשקי יצירת תמונות מבוססי הבינה המלאכותית מוגדרים מראש עם מסנני תוכן מובנים - שכבות תוכנה המונעות ייצור חומרים מפורשים ובמיוחד כאלה הכוללים קטינים. מנגנונים אלה אינם מושלמים, אך הם סטנדרט בסיסי בתעשייה. הנתונים שנחשפו לאחרונה מצביעים על כך שהכלי של גרוק לא עמד אפילו בסף המינימלי הזה: שלושה מיליון תמונות פוגעניות - מתוכן כ-23 אלף המתעדות ניצול חמור של ילדים - ייצרו בפרק זמן של 11 ימים בלבד.

לפי מומחים בתחום, מדובר בכישלון מבני, לא בתקלה טכנית מקרית - ההבדל קריטי מבחינה משפטית ורגולטורית. כישלון מבני מרמז על החלטות תכנון ופיקוח לקוי מצד החברה, הדברים שהרגולטורים האירופים מחפשים כעת.

חזית משפטית מתפשטת

המרכז הגיאוגרפי של המשבר הרגולטורי הוא אירלנד, שם ממוקם המשרד האירופי הראשי של X, ולכן שם מופעל הפיקוח הראשוני על פי מנגנוני ה-GDPR. רשות הגנת הנתונים האירית (DPC) פתחה בהליך בחינה של הפרות חוקי הפרטיות, בדגש על השאלה כיצד המערכת השתמשה בנתונים אישיים כדי לייצר תוכן ויזואלי ללא הסכמת המשתמשים.

במקביל, מוסדות האיחוד האירופי פועלים מכוח חוק השירותים הדיגיטליים (DSA) - רגולציה שנכנסה לתוקף ב-2023 ומטילה על פלטפורמות גדולות חובת הערכת סיכונים לפני שחרור כלים חדשים לציבור. השאלה המרכזית: האם X ביצעה הערכה כזו ביחס לגרוק, ואם כן - מה הראתה? "דיפייקים מיניים של נשים וילדים הם צורה אלימה ובלתי מקובלת של השפלה", אמרה האנה וירקונן, נציבת הטכנולוגיה של האיחוד האירופי.

זו אינה ההתנגשות הראשונה של X עם האיחוד האירופי: החברה כבר קנסה ב-120 מיליון אירו בדצמבר 2025 בגין הפרות DSA הנוגעות לסימון חשבונות מאומתים ולשקיפות פרסום.

בתוך כך, ספרד הורתה לפרקליטים לפתוח בחקירה פלילית נגד X, מטא ו-TikTok. ראש הממשלה הספרדי פדרו סאנצ'ז הצהיר כי הפלטפורמות פוגעות ב"זכויות, בכבוד ובבריאות הנפש של ילדים", וממשלתו שוקלת לאסור גישה לרשתות חברתיות לבני מתחת ל-16.

קליפורניה, אוסטרליה וקנדה פתחו גם הן הליכים משלהן. מלזיה ואינדונזיה חסמו את גרוק לחלוטין. משרדי החברה בפריז עברו חיפושים; חקירות מקבילות מתנהלות גם בבריטניה.

ההבטחות לא הספיקו

בשבועות שלאחר חשיפת היקף הפגיעה, הכריזה X על הטמעת מסנני תוכן חדשים. בדיקות עצמאיות שבוצעו מאז מצאו שהמסננים קלים לעקיפה, ומשתמשים ממשיכים לפרסם חומרים מפורשים שהופקו בעזרת הכלי. זה לא רק כישלון טכני - זו בעיה של אמינות. כאשר חברה מכריזה שתיקנה בעיה, ורשויות מוצאות שהבעיה ממשיכה, נפגע הסיכוי להגיע להסדר מוסכם, וגדל הסיכוי לסנקציות מיידיות.

הלחץ המסחרי ממשיך לגדול: ספקיות חנויות האפליקציות מקבלות פניות ממחוקקים ומארגוני הגנה על ילדים לשקול הסרת X מהפלטפורמות שלהן. הסרת אפליקציה מחנויות אפל וגוגל היא נדירה, אך לא חסרת תקדים - בעבר נקטו השתיים צעדים דומים נגד פלטפורמות בשל מחדלי אכיפת תוכן.