מטריד: בני נוער משתמשים בבינה מלאכותית כדי לייצר תמונות מיניות ללא הסכמה

מחקר חדש מדווח שיותר ממחצית מבני הנוער בארה"ב משתמשים בבינה מלאכותית גנרטיבית כדי "להפשיט" אנשים אמיתיים. המחקר, המבוסס על סקר בקרב 557 בני נוער אמריקאים בגילאי 13-17, נערך בהובלת צ'אד סטיל מאוניברסיטת ג'ורג' מייסון ופורסם ב-PLOS One ב-18 במרץ 2026.

המחקר מצא כי 55.3%מבני הנוערהשתמשו בכלי GenAI כדי ליצור תמונות מיניות של אנשים ש"הופשטו" מלבוש. עוד נמצא כי 54.4% אמרו שקיבלו תמונה כזו. הממצאים מציירים קבוצה של משתמשי בינה מלאכותית "ילידיים", כאשר כלים המאפשרים המרת טקסט לתמונה מאפשרים למשתמשים ליצור תיאורים מפורשים בלי להזדקק לצילומים מקוריים, לפי עיתון האינדפנדנט הבריטי.

המחקר מפרט כיצד נעשה שימוש בכלים הללו בדרכים שנראות כחוצות קווים משפטיים ואתיים. בסקר, 36.3% מבני הנוער דיווחו שמישהו אחר יצר תמונה מינית שלהם שנוצרה באמצעות AI, ללא הסכמתם. עוד 33.2% אמרו שתמונה כזו שלהם הופצה ללא הסכמה.

המחקר מציין שחלק גדול מהפעילויות הללו מפר את חוקי פורנוגרפית הילדים בארה"ב, כאשר הקורבנות חווים השלכות הדומות לצורות אחרות של חומר המתאר פגיעה מינית בילדים.

הפרסום של סטיל מדגיש את הצורך בצעדי מדיניות מעודכנים. הוא מציע שמחוקקים ישקלו להתאים חוקים כדי להבחין בין חקירה מינית בהסכמה בין בני אותו הגיל לבין התעללות ממשית. הסוגיה נעשית דחופה יותר ככל שבני נוער מאמצים כלים של בינה מלאכותית היכולים לייצר תוכן מפורש מתוך קלט מינימלי.

מחוץ לארצות הברית, קבוצות בחברה האזרחית לוחצות לבצע התערבויות המכוונות למוצרים מסוימים. הקרן ההולנדית אוף-לימיטס דרשה לאסור את תכונת הסרת הלבוש של גרוק לאחר שקיבלה מעל 250 דיווחים בשנה האחרונה על תמונות עירום שעברו מניפולציה ונוצרו בידי בינה מלאכותית, עלייה של כמעט פי 5.

הדאגות חוצות הגבולות משקפות עד כמה קל למשתמשים צעירים לגשת לכלים כאלה ולשנות את ייעודם, גם כאשר יש כביכול מגבלות גיל או מדיניות הגבלת תוכן.

על רקע האימוץ הגובר של בינה מלאכותית בידי בני נוער והנזקים המתועדים מהפקה ללא הסכמה של תמונות, דמויות בולטות בעולם הטכנולוגיה מביעות דעה על מידת ההיתר שהמערכות המרכזיות צריכות לאפשר.

מנכ"ל OpenAI סם אלטמן דוחף לשחרר גרסה למבוגרים של ChatGPT, בעוד אילון מאסק תמך בהתרת גרוק להפיק תוכן למבוגרים בלבד, לפי אתר חדשות הטכנולוגיה דיגיטל טרנדס.