זינוק של 400% בתכני התעללות בילדים שנוצרו על ידי AI

דאגה חדשה: ההתפשטות של הצ'אטים למיניהם שמופעלים על ידיתוכנות בינה מלאכותיתהביאה השנה לעלייה של 400 אחוז בדיווחים על יצירת תכנים העוסקים בהתעללות בילדים, פדופיליה וצורות אחרות של פורנוגרפיה קשה סביב התחום הנ"ל. הדיווח בעניין זה נמסר לממשל הבריטי על ידי ה-IWF (ארגון צדקה ומחקר בריטי עצמאי הפועל מאוניברסיטת קיימברידג' ושעוקב אחרי תכני פגיעה בילדים ברשת).

בדיווח מיוחד על הנושא נמסר כי צ'אטבוט אחד שנעשה אחריו מעקב הציע מספר אפשרויות שיחה מטרידות בהן הצ'אט מדמה תרחיש ניצול של ילד או אף לנהל שיחה בנושא.

בחלק מהמקרים הצ'אטים לא רק עוסקים בשיח אלא מציעים גם להנפיש בצורה חיה כמעט סצנות חיות מסוג זה. האתר המדובר הפך לפופולרי מאוד וביולי האחרון לבדו היו 60 אלף כניסות אליו. כמו כן ניתן להגיע אליו דרך פרסומות שמופיעות ברשתות החברתיות ודרכים קלות אחרות.

הקרן, שאמנם יושבת בבריטניה, עומדת בקשר נרחב עם רשויות האכיפה השונות ברחבי העולם וכשהיא מגלה שרת עליו יושבת בינה מלאכותית שמפעילה צ'אט מסוג זה, היא פונה אל הרשויות המקומיות שיחד פועלות להסיר את האפשרות מהשרת ההוא. אולם על פי הדו"ח של הקרן על ממשלת בריטניה וכן על ממשלות אחרות בעולם, להסדיר את התחום מבחינה חוקית ולמנוע את ההתפתחות של תעשיית מין וירטואלית מטרידה מהסוג הזה.

הקרן, יחד עם גורמי הגנת ילדים נוספים הפועלים בממלכה המאוחדת, קראה לממשל הבריטי לפעול יותר מהר בתחום וכן להכניס תקנות חריפות בכל הוראת חוק חדשה בתחום הבינה המלאכותית כדי לעצור את התפשטות התופעה.

"הממשל הבריטי אכן עושה המון בתחום המאבק בהתעללות מינית בילדים שנוצרת על ידי ה-AI, אבל צריך לפעול בנושא יותר מהר. יש לחוקק הנחיות שיחייבו את חברות הטכנולוגיה לייצר הגנות חזקות יותר שיבטיחו את בטיחות הילדים", מסר מנכ"ל הIWF קרי סמית'.

האנליסטים של ה-IWF שוחחו עם הצ'אטים ואלו אכן הסבירו שהם תוכננו לחקות התנהגות של ילדים. משום כך מציינים החוקרים כי יהיה צורך במאמץ עולמי משותף הן בתחום הרגולציה והן בתחום המאבק אחרי חברות שמציעות תכנים כאלו תוך שהן פועלות בחשאי ותחת הסוואות שונות.