עברו את הסינון של מטא: אושר לפרסום תוכן מיני המערב קטינים

חוקרי Tech Transparency Project (TTP), ארגון אמריקני עצמאי העוקב אחר פעילות חברות הטכנולוגיה, איתרו עשרות מודעות בתשלום שכללו חומר מיני פוגעני שנוצר באמצעות בינה מלאכותית ובו קטינים. מגזין הטכנולוגיה האמריקני, WIRED אימת את הממצאים מול מטא ופרסם את התחקיר.

לפי התחקיר, בין נובמבר 2025 לתחילת אוגוסט 2026 הופיעו תמונות מיניות מזויפות ביותר מ-50 מודעות בפייסבוק, באינסטגרם, בת'רדס ובמסנג'ר. המודעות אותרו בארה"ב, בבריטניה וביותר מתריסר מדינות באירופה. חלקן קידמו אפליקציות המכונות "Nudify", המשתמשות בבינה מלאכותית ליצירת תמונות מיניות מזויפות של אנשים ללא הסכמתם.

לדברי מנהלת TTP , קייטי פול, "המודעות לא עשו כל מאמץ להסתיר את התמונות או את מה שהן קידמו". החוקרים ציינו כי חלק מהקמפיינים הפנו לשירותים כמו MaskAI, אפליקציה שלדבריהם הוסרה בהמשך מחנות האפליקציות של אפל לאחר שהפרה את מדיניות החברה האוסרת יישומי "הפשטה" דיגיטליים.

על פי ממצאי TTP, חלק מהמודעות שילבו תמונות של קטינים עם מסרים בעלי אופי מיני מפורש. באחד המקרים שתועד, מודעת וידאו הציגה תמונת ממוזערת של ילד לצד טקסט שהזמין משתמשים "להגשים פנטזיות" באמצעות בינה מלאכותית. לאחר לחיצה על המודעה, הוצגו קטעי וידאו בעלי אופי מיני שבהם שובצו באופן מלאכותי פניו של הקטין. כך לפי החוקרים.

החוקרים מסרו כי גם לאחר שחלק מהקמפיינים חדלו להיות פעילים, המודעות נותרו זמינות במשך חודשים בספריית המודעות הציבורית של מטא, דבר המעיד כי עברו את מנגנון האישור של החברה. באחד הקמפיינים תועדו 2,563 חשיפות למשתמשים באירופה.

לפי מגזין WIRED, מערך בדיקת המודעות של מטא הסתמך במידה רבה על מערכות אוטומטיות המבוססות על זיהוי דפוסים, שהתקשו לזהות את ההקשר של התוכן. לטענת החוקרים, בשל כך אושרו מודעות שלכאורה הפרו את מדיניות החברה, האוסרת ניצול או פגיעה בילדים וכן כל תוכן מיני מפורש במערכת הפרסום.

בתגובה מסרה מטא כי הסירה את המודעות והחשבונות שעליהם דווח לה. עוד מסרה החברה כי היא מפתחת דור חדש של מודלי בינה מלאכותית שנועדו לשפר את האכיפה נגד תכנים של ניצול מיני של ילדים. לדברי החברה, המערכות החדשות בוחנות את ההקשר המלא של פרסומים ומודעות - לרבות השפה, הכוונה והניסוח - ולא מסתמכות רק על זיהוי דפוסים.

החברה הוסיפה כי במקרים רגישים "ממשיכים להיות מעורבים גם בודקים אנושיים".

מכה משפטית נוספת: קנס ענק של כמעט מיליארד דולר

במקביל, חשיפת מחדל המודעות מגיעה בזמן שמטא סופגת מכה משפטית חסרת תקדים סביב סוגיית הבטיחות וההגנה על ילדים בפלטפורמות שלה. בית משפט במדינת ניו מקסיקו בארה"ב הורו לחברה לשלם קנס דרמטי נוסף של 567 מיליון דולר - זאת בנוסף לקנס של 375 מיליון דולר שהוטל עליה רק במרץ האחרון בגין נזקי רשתות חברתיות והתמכרות קטינים. בכך נוסק סכום הפיצויים הכולל שעל ענקית הטכנולוגיה לשלם במדינה ל-942 מיליון דולר.

לצד הסנקציה הכספית הכבדה, השופט פסק צו חסר תקדים המחייב את מטא לבצע שינויים טכנולוגיים עמוקים באופן שבו פייסבוק ואינסטגרם פועלות עבור משתמשים צעירים בתחומיה. בין היתר, נקבע כי החברה תצטרך להסיר את מונה ה-"לייקים" עבור קטינים מתחת לגיל 18, אלא אם יתקבל אישור מפורש מהורה או אפוטרופוס.

בנוסף, חלה חובה להשבית התראות למשתמשים צעירים בשעות הלילה (בין 10:00 בערב ל-07:00 בבוקר), ולהגביל את זמן השימוש הכולל שלהם ברשתות לעד 90 שעות בחודש - ממוצע של כארבעים וחמש דקות ביום.

"מספר משמעותי של אנשים בניו מקסיקו חווים נזק מהמוצרים של מטא עקב סיכונים לניצול מיני, הפרעה לחינוך והשלכות נפשיות שליליות", נכתב בהחלטת בית המשפט. התובע הכללי של ניו מקסיקו, ראול טורז, תקף בחריפות את החברה והבהיר: "במשך שנים מטא ידעה שהפלטפורמות שלה פוגעות בילדים - מהזנת משבר בריאות הנפש ועד חיבור בין עברייני מין לילדים - ובחרה במעורבות ורווחים על פני בטיחותם. היום מטא משלמת על הבחירה הזו".

מנגד, במטא מבהירים כי בכוונתם לערער על פסק הדין. דובר החברה, אנדי סטון, מסר כי מטא עובדת קשה כדי לשמור על בטיחות המשתמשים.