"הונאת תסמונת דאון": פילטרים של בינה מלאכותית מנוצלים ליצירת תוכן מיני

תופעה מטרידה מתפשטת ברשתות החברתיות בחודשים האחרונים: יוצרות תוכן משתמשות בפילטרים שלבינה מלאכותיתכדי ליצור את הרושם שיש להןתסמונת דאון. המטרה: לקדם תוכן בעל אופי מיני ולהפנות גולשים לדפי תוכן בתשלום.

בסריקה מקרית שערך המגזין "ניוזוויק" נמצאו ברשתות החברתיות מאות חשבונות של יוצרי תוכן (בעיקר נשים) המשתמשים בפילטר "AI תסמונת דאון". הסרטונים מופיעים עם כיתובים כמו "האם תסמונת דאון היא סיבה לפסול מישהי?" או "האם היית יוצא עם בחורה עם תסמונת דאון?". אולם, לדמויות בסרטונים אין תסמונת דאון. למעשה, רבות מהן כלל לא קיימות ומדובר רק באוואטרים של AI.

מתברר שמדובר בהיצע שעונה על הביקוש. נתוני גוגל טרנדס מראים כי באפריל 2025 חלה עלייה חדה בחיפושים אחר מונחים כמו "AI תסמונת דאון" ו"בחורה עם תסמונת דאון". גם חיפושים הכוללים "בחורה בכושר עם תסמונת דאון" ו"בחורה יפה עם תסמונת דאון" הפכו פופולריים ברשתות החברתיות.

"אנחנו עוקבים אחר הגידול בחשבונות מזויפים ברשתות החברתיות המשתמשים בבינה מלאכותית כדי להתחזות לאנשים עם תסמונת דאון, ואנחנו מאוכזבים לראות שהתופעה הולכת וגדלה", אמרה קנדי פיקארד, נשיאה ומנכ"לית האגודה הלאומית לתסמונת דאון (NDSS) בארצות הברית.

חשבונות שנבדקו על ידי ניוזוויק מראים שיוצרי תוכן משתמשים בפילטר ליצירת תוכן בעל אופי מיני מובהק, עם קישורים לדפים באתרים כמו OnlyFans, פלטפורמה לשיתוף תוכן המשמשת בעיקר לשיתוף תכנים מיניים בתשלום. בנוסף, חשבונות אלה כוללים קישורים לקבוצות טלגרם, שירות מסרים מיידיים הידוע בדגש שלו על פרטיות. אחת מקבוצות הטלגרם הללו כללה יותר מ-20,000 חברים.

דובר מטעם OnlyFans אמר לניוזוויק כי "אף אחד מהחשבונות המדוברים אינו משתמש בבינה מלאכותית לסינון או זיוף תמונות באתר. תנאי השירות שלנו ברורים: תמונות מסוג זה המיוצרות על ידי בינה מלאכותית אסורות לשימוש בפלטפורמה".

מומחים מזהירים כי מגמה זו מציגה סכנות משמעותיות. "ניצול של קבוצת אוכלוסייה פגיעה לצורכי רווח מיני הוא התנהגות פסולה מוסרית", אמרה פיקארד. "לא רק שהדבר מחזק סטריאוטיפים שליליים, אלא גם עלול לעודד התנהגות פוגענית כלפי אנשים עם מוגבלויות".

ארגוני זכויות אדם קוראים לחברות הרשתות החברתיות לנקוט פעולה מיידית. "פלטפורמות דיגיטליות חייבות להיות אחראיות יותר בזיהוי וסינון תכנים המנצלים קבוצות פגיעות", אמר מומחה לניוזוויק. "הטכנולוגיה שמאפשרת את הזיופים הללו היא אותה טכנולוגיה שיכולה לזהות ולחסום אותם".

המקרה מדגיש את האתגרים החדשים שמציבה הבינה המלאכותית בעידן הדיגיטלי. "ככל שהטכנולוגיה מתקדמת, כך גם דרכי הניצול שלה", הסביר המומחה. "הרגולציה לרוב מפגרת אחרי ההתפתחויות הטכנולוגיות, ולכן נדרשת גישה משולבת של חקיקה, חינוך והתנהלות אחראית של החברות".

The Downs have arrived!pic.twitter.com/r8jHY65P7W

— Sam Tripoli (@samtripoli)January 18, 2025

בינתיים, הורים ואנשי חינוך מתבקשים להיות ערניים לתכנים אלה ולדווח עליהם. "חשוב שהציבור יבין את הסכנות ויפעל באופן אקטיבי למניעתן", אומרת פיקארד. "אנו קוראים לכולם לדווח על תכנים כאלה ולתמוך במאמצים להגנה על זכויותיהם וכבודם של אנשים עם תסמונת דאון".