אמזון מצאה תוכן פוגעני חמור בנתוני AI - ומסרבת לחשוף את המקור

לפי תחקיר שפורסם באתר בלומברג ובבלוג הטכנולוגיה Engadget, חברת אמזון דיווחה במהלך 2025 על היקף חריג של חומרי פגיעה מינית בקטינים שנמצאו בנתוני אימון של מערכות בינה מלאכותית - אך טענה כי אינה יודעת, או אינה יכולה לחשוף, מה מקורם.

על פי הדיווח, המרכז הלאומי האמריקני לילדים נעדרים ומנוצלים (National Center for Missing and Exploited Children), קיבל בשנת 2025 יותר ממיליון דיווחים הקשורים לתוכן כזה שנוצר או זוהה בהקשרי בינה מלאכותית. "הרוב המכריע" של הדיווחים הללו הגיע מאמזון, לאחר שהחברה זיהתה את החומר בתוך מאגרי נתונים ששימשו לאימון מודלים.

אמזון מסרה כי התוכן הגיע ממקורות חיצוניים, בהם נעשה שימוש לצורך אימון שירותי ה-AI שלה, אך הוסיפה כי בשל אופיים של מקורות צד שלישי, אין ביכולתה למסור פרטים נוספים שיאפשרו חקירה או אכיפה. החברה טענה כי אינה מחזיקה במידע שיכול להיחשב "דיווח בר-פעולה".

בהצהרה שנמסרה לבלוג Engadget הסבירה אמזון כי כבר בעת הקמת ערוץ הדיווח הייעודי ב-2024, היא הבהירה ל-NCMEC שהנתונים הסרוקים אינם מאפשרים יצירת דיווחים שניתן להעבירם לרשויות האכיפה. לטענתה, הפרדת הערוץ נועדה למנוע פגיעה ביעילות ערוצי דיווח אחרים של החברה.

מנהלת ה-CyberTipline של NCMEC, פלון מקנולטי, אמרה לבלומברג כי מדובר במקרה חריג. לדבריה, היקף כה גבוה של דיווחים מעלה שאלות כבדות משקל בנוגע למקורות הנתונים ולמנגנוני ההגנה שהופעלו. היא ציינה כי בניגוד לאמזון, דיווחים דומים שהתקבלו מחברות אחרות כללו מידע שניתן היה להעביר להמשך טיפול של רשויות החוק.

בהמשך מסרה אמזון כי אינה מודעת למקרים שבהם המודלים שלה יצרו תוכן פוגעני כזה, והדגישה את מחויבותה ל-AI אחראי ולסריקה יזומה של נתוני אימון, כולל מהאינטרנט הפתוח, במטרה לאתר ולהסיר חומרים אסורים. החברה הוסיפה כי היא משתמשת בכוונה בסף זיהוי "רחב במיוחד", מה שמוביל גם לאחוז גבוה של זיהויים שגויים.

הפרשה מצטרפת לגל רחב יותר של חששות בנוגע לבטיחות קטינים בעידן הבינה המלאכותית. לפי נתוני NCMEC, מספר הדיווחים הקשורים ל-AI זינק בצורה חדה: מ-4,700 בלבד בשנת 2023, ל-67 אלף ב-2024, וליותר ממיליון ב-2025.

לצד סוגיות של נתוני אימון, גם שימוש ישיר בצ'אטבוטים מעורר דאגה. חברות כמו OpenAI ו-AICharacter נתבעו לאחר מקרים שבהם בני נוער תכננו פגיעה עצמית באמצעות הפלטפורמות שלהן, וגם מטא של מארק צוקרברג מתמודדת עם תביעה בטענה שלא הגנה כראוי על משתמשים צעירים משיחות פוגעניות עם בוטים.