עקף מנגנוני הגנה ויצר תוכן פדופילי: אילון מאסק תובע משתמש טוויטר

לראשונה בתעשייה, מפתחת בינה מלאכותית גוררת משתמש לבית המשפט הפדרלי בגין "הנדסת פרומפטים" אסורה, שיצרה דיפ-פייק פורנוגרפי בוטה, בהם חומרים המערבים קטינים • המטרה הרשמית: מאבק בפדופיליה • ומה לגבי המטרה האמיתית? ככל הנראה מדובר בבקרת נזקים מול האיחוד האירופי

אילון מאסק תובע משתמש X. צילום: ChatGPT

תעשיית הבינה המלאכותית רושמת השבוע נקודת מפנה משפטית והיסטורית: חברת xAI של אילון מאסק הגישה תביעת ענק תקדימית נגד טרי ויין הארווד, פנסיונר בן 67 מדרום קרוליינה, בטענה שניצל את מחולל התמונות של הצ'אטבוט גרוק כדי לייצר זיופי תמונות (דיפ-פייק) פורנוגרפיים בוטים, בהם חומרים המערבים קטינים.

זוהי אחת הפעמים הראשונות בהיסטוריה שבה חברת טכנולוגיה תובעת באופן אישי אזרח פרטי על שימוש לרעה ומניפולציות בקוד של כלי ה-AI שלה. על פי כתב התביעה שהוגש בטקסס, הארווד השתמש בחשבונות מרובים והזין שוב ושוב "פרומפטים מטעים" במטרה לעקוף במכוון את חסמי הבטיחות המובנים של גרוק, תוך שהוא הופך תמונות לבושות ותמימות של מכריו, בהם ילדה בת 10, לחומרים מיניים קשים.

צעד מוסרי או בריחה מאחריות?

המהלך האגרסיבי של xAI לא מתקבל בעולם הטכנולוגיה כמעשה גבורה טהור, אלא מתפרש בעיקר כחלוקת אחריות משפטית וניסיון להסטת האש. המדיניות ה"חופשית" ונטולת הרסנים שמאסק קידם בגרוק תחת דגל חופש הביטוי - בניגוד לחסימות ההרמטיות של מתחרות כמו OpenAI או גוגל - הפכה את הצ'אטבוט לכר פורה עבור עבריינים.

כעת, כשהחברה תובעת את הארווד (שנעצר כבר במרץ האחרון על ידי ה-FBI עם אישומים חמורים של החזקה והפצת חומרי תועבה של קטינים), היא מנסה לאותת לרגולטורים: האשמה היא על המשתמש הפורץ, לא על המערכת הפרוצה.

"כל מי שמשתמש בגרוק כדי ליצור תוכן לא חוקי יסבול מאותן השלכות כאילו העלה תוכן לא חוקי בעצמו", צוטט אילון מאסק בכתב התביעה, כחלק מקו ההגנה החדש של החברה.

טבעת החנק הרגולטורית מתהדקת

התביעה הזו מוגשת בשעה ש-xAI ניצבת בפני סופת טייפון משפטית וציבורית גלובלית. עיריית בולטימור הגישה תביעה נגד החברה בטענה כי גרוק ייצר מיליוני תמונות מיניות מזויפות של קטינים באמצעות תכונת ה-"Spicy Mode" שלו. במקביל, הוגשה תביעה ייצוגית של נשים ונערות שתמונותיהן נשאבו מהרשת והופצו כחומרים פורנוגרפיים.

במקביל, נציבות התקשורת הבריטית (Ofcom), האיחוד האירופי, רשויות החוק בקליפורניה ונציב הגנת המידע של אירלנד מנהלים חקירות מקבילות וקשוחות נגד מנגנוני הסינון של החברה.

כעת, xAI דורשת מבית המשפט לפסוק נגד הארווד פיצויים כספיים כבדים, וחשוב מכך - לקבוע כי עליו לשפות ולכסות כל הוצאה משפטית עתידית שתיגרם לחברה אם קורבנותיו יחליטו לתבוע את xAI ישירות. הקרב המשפטי הזה צפוי להגדיר מחדש את גבולות האחריות בין יצרני הטכנולוגיה למשתמשי הקצה בשנים הבאות.

טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו

כדאי להכיר