ה-AI הקשיב לתוכנית הרצח - והזעיק את ה-FBI
צעיר מפלורידה, אנליסט לשעבר, השתמש בצ'אטבוט הפופולרי כדי לתאר לפרטי פרטים כיצד יפגע בבת זוגו לשעבר • מערכות הבקרה של OpenAI זיהו את האיומים הקונקרטיים והעבירו את יומני השיחות לרשויות החוק
דארן ז'ו, צעיר בן 25 מפלורידה שעבד כאנליסט בבנק ההשקעות "גולדמן זאקס", נעצר והועמד לדין לאחר ששיתף את ה-ChatGPT בתוכניותיו המפורטות לאנוס ולרצוח את בת זוגו לשעבר. חברת OpenAI, המפתחת את הצ'אטבוט, זיהתה את הסכנה המיידית ודיווחה עליו ל-FBI.
על פי רישומי בית המשפט, ז'ו פנה לתוכנת הבינה המלאכותית בחודש מרץ האחרון כדי לפרוק את תסכולו לאחר פרידה מבת זוגו בחצי השנה האחרונה. הוא פירט באוזני הצ'אטבוט את תחביביה, המקומות שבהם היא נוהגת לבלות, וקנאתו לגברים שסביבה. במהרה, השיחות הפכו לאיומים קונקרטיים באונס, רצח והתאבדות.
"אני הולך להרוג אותה עד סוף החודש", כתב ז'ו ל-ChatGPT בשיחות שתועדו בתיק החקירה. "אם אני לא יכול לקבל אותה, אז אף אחד לא יקבל".
לא "התפרצות רגשית" - תכנון מוקדם
מדיניות הבטיחות של OpenAI קובעת כי צוות אנושי מצומצם רשאי לבדוק אינטראקציות של משתמשים עם ChatGPT במקרים שבהם המערכת מזהה כוונה לפגוע באחרים. במקרים חמורים, החברה מעבירה את המידע לרשויות החוק. בעוד ששיחות עם הצ'אטבוט כבר שימשו בעבר כראיות בבתי משפט, מקרים שבהם החברה עצמה יוזמת פנייה למשטרה הם נדירים למדי.
סוכנים פדרליים העבירו בחודש מאי את יומני השיחות של ז'ו (ללא תשובות הבוט) למשרד השריף של מחוז פאלם ביץ', לאחר שהאיומים התרחבו וכללו גם את משפחתה של הצעירה בת ה-21. חוקר שעבר על התכתובות קבע כי לא מדובר ב"התפרצויות רגשיות מעורפלות", אלא בדפוס ברור של תכנון וחזרות לקראת ביצוע פשע.
בבדיקת שלום שערכו השוטרים לצעירה, היא סיפרה כי נפרדה מז'ו בגלל "התנהגות בלתי צפויה, קנאית ושתלטנית". מאז הפרידה, הוא הטריד אותה באובססיביות בשיחות, הודעות טקסט וברשתות החברתיות, תוך שימוש במספרים פיקטיביים. הודעות רבות היו בעלות אופי מיני, מעליב ומאיים.
חמק ממאסר ברגע האחרון
עם יומני ה-AI והודעות הטקסט המאיימות שבידיהם, השוטרים עצרו את ז'ו. הוא פוטר מעבודתו, בילה יומיים במעצר ושוחרר בערבות של 100 אלף דולר.
בחודש יוני הוא הואשם בשורת עבירות חמורות – מעקב בנסיבות מחמירות, איומים בכתב לרצח ושימוש בלתי חוקי בטלפון סלולרי – עבירות שהעונש המרבי עליהן עומד על 25 שנות מאסר. עם זאת, השבוע (ב-13 באוגוסט) חתם ז'ו על עסקת טיעון שבמסגרתה הודה בכל האישומים, אך חמק מריצוי עונש מאסר בפועל ומרישום פלילי חמור.
השופט סקוט סוסקאואר ציין באולם כי הסכים לאשר את העסקה, הכוללת שמונה שנות מאסר על תנאי ושורת הגבלות מחמירות, אך ורק משום שבת זוגו לשעבר של ז'ו אישרה את המתווה. עורך דינו של ז'ו, סטיבן בל, הדגיש את עברו הנקי של הצעיר ואת העובדה שלא החזיק בכלי נשק למרות איומיו: "הוא לא אדם אלים או רע. הוא עבר אפיזודה קשה מאוד של בריאות הנפש, ועכשיו הוא מסתדר בצורה בלתי רגילה".
טעינו? נתקן!אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו