כל מילה מנוטרת: השתמשה בקלוד כיומן אישי - ונעצרה
חברת אנתרופיק הסגירה למשטרה צעירה מפלורידה שתעדה בשיחות עם הבוט את כוונתה לבצע ירי המוני, לאחר שמערכות הניטור זיהו את האיום והעבירו אותו לסקירה אנושית • המקרה מעלה שוב דיון נוקב סביב האשליה של פרטיות בצ'אטים

משתמשים רבים נוטים לפתח קרבה פסיכולוגית עם צ'אטבוטים של בינה מלאכותית, תוך פריקת מחשבות, תסכולים וסודות אישיים מתוך תחושת פרטיות מדומה. אלא שתקרית חריגה שהתרחשה בימים האחרונים בפלורידה מספקת תזכורת מהדהדת ומטלטלת: שיחות עם מודלי שפה אינן חסויות, אינן אנונימיות, ומנוטרות באופן הדוק הן על ידי אלגוריתמים והן על ידי בודקים אנושיים.
קארלי מישל הלר, תושבת בת 30 מהעיר בוניטה ספרינגס שבפלורידה, נעצרה והוגש נגדה כתב אישום בגין עבירת פשע חמורה מדרגה שנייה, לאחר שחברת אנתרופיק, מפתחת המודל הפופולרי קלוד, הסגירה את תוכן שיחותיה ישירות לידי משרד השריף המקומי.
"השגתי נשק חדש"
על פי דוח המעצר, הלר ניהלה שיחות רציפות עם הבוט בסוף חודש ספטמבר, אותן הגדירה מאוחר יותר בפני החוקרים כ"יומן אישי" שבו נהגה לתעד את תחושותיה. אלא שרצף ההודעות הפך במהרה למדאיג ומסוכן.
ב-26 בספטמבר כתבה הלר בצ'אט כי בכוונתה לבצע ירי המוני בתוך משרד השריף המחוזי של מחוז לי. למחרת לפנות בוקר, בשעה 01:07, שלחה הודעת המשך שבה כתבה: "זו ההזדמנות האחרונה בהחלט, אני גמורה. השגתי נשק חדש היום".
ברגע שהמילים נקלטו במערכת, מנגנוני הניטור האוטומטיים של אנתרופיק סיווגו את השיחה כאירוע אבטחה ברמת סיכון גבוהה והקפיצו אותה מיד לסקירה של בודק אנושי בצוות החברה. לאחר שבחנו את חומרת הטקסטים והגיעו למסקנה כי מדובר באיום קונקרטי וסביר לחיי אדם, נציגי אנתרופיק פנו ביוזמתם למשרד השריף והעבירו את כלל הפרטים המזהים של המשתמשת.
שוטרים נשלחו באופן מיידי לביתה של הלר, עצרו אותה ללא התנגדות והיא הועברה לחקירת מחלקת המודיעין של המשטרה.
החוק שסיבך את המשתמשת
הלר מואשמת כעת בהשמעת איומי אלימות בכתב. על פי סעיף 836.10 בחוקי מדינת פלורידה, שידור, שליחה או פרסום של מסמך אלקטרוני המאיים ברצח, בפציעה, בביצוע ירי המוני או במעשה טרור מוגדרים כפשע מדרגה, הנושא עונשי מאסר ממושכים, כל עוד התקשורת בוצעה באופן שבו אדם נוסף עלול להיחשף אליה. משפטה צפוי להיפתח בחודש נובמבר.
"בינה מלאכותית היא כלי רב-עוצמה, וכמו כל טכנולוגיה, ניתן לעשות בה שימוש לרעה", מסר קרמיין מרסנו, שריף המחוז. "כאשר מישהו משתמש ב-AI כדי להשמיע או לקדם איום, עלינו להתייחס אליו בשיא הרצינות. משתמשים חייבים להבין: אתם לעולם לא באמת אנונימיים, בפרט לא בחיפושים ובצ'אטים של AI".
לא לוקחות שום סיכון
מדיניות הפרטיות ותנאי השימוש של אנתרופיק קובעים במפורש כי החברה שומרת לעצמה את הזכות המלאה לחלוק מידע ופעילות משתמשים עם רשויות החוק במצבי חירום, שבהם קיים חשש סביר למוות או לפגיעה פיזית קשה.
הנכונות המהירה של אנתרופיק לפנות למשטרה אינה מקרית. ענקיות הטק נמצאות תחת לחץ משפטי חסר תקדים בעקבות אירועי ירי קודמים.
רק בחודש שעבר הוגשה תביעה בבריטיש קולומביה (קנדה) נגד סם אלטמן ו-OpenAI, בטענה שהחברה יכלה למנוע מסע ירי המוני של תלמידה בת 18, לאחר ששיחותיה על אלימות בנשק אותרו במערכות אך לא דווחו למשטרה כי "לא חצו את הסף המשפטי".
ביוני האחרון תבעה פלורידה עצמה את OpenAI בטענה ש-ChatGPT תרם למסע ירי באוניברסיטת המדינה בשנת 2025.
בחודש ספטמבר האחרון העבירה אנתרופיק למשטרה משתמש אחר שכתב בצ'אט על כוונתו לרכוש רובה סער AR-15 ולפגוע במנכ"ל החברה, דריו אמודיי.
העיניים שמציצות לכם בטקסט
המקרה של הלר חושף שוב את אחד המיתוסים הגדולים בקרב הציבור הרחב - התחושה ששיחה עם מודל AI היא אינטימית ומבודדת. במציאות, כלל החברות המובילות מחזיקות עובדים וקבלני משנה אנושיים שבודקים שיחות, פרומפטים ותמונות.
רק לאחרונה נחשף כי בודקים אנושיים של מיקרוסופט הבוחנים את עורך התמונות ב-Copilot נחשפים באופן שגרתי לפקודות, תמונות ועריכות פרטיות של משתמשים (כולל תכנים מטרידים או מיניים) כדי לוודא את דיוק המודל.
תזכורת: בין אם מדובר ב-ChatGPT, בקלוד או במנועי חיפוש מבוססי שפה, הכלל נותר פשוט וברור: הצ'אטבוט אינו יומן נעול עם מפתח. כל מילה שמוקלדת נשמרת בשרתים, נסרקת על ידי מערכות ניטור, ובמקרים של חריגה מהכללים - עשויה להביא את כוחות הביטחון היישר לפתח הדלת.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו