"מצמרר ודיסטופי": אלגוריתם ינבא מי יהפוך לרוצח

האם ניתן לנבא מי יהפוך לרוצח? משרד המשפטים הבריטי מאמין שכן. הרשויות הבריטיות מפתחות מערכת שמטרתה לזהות אנשים בעלי סיכוי גבוה לבצע רצח, כך חשף ארגון זכויות האדם והאזרח סטייטווטש (Statewatch) במסמכים שהשיג באמצעות בקשות לחופש המידע. התוכנית, שכונתה במקור "פרויקט חיזוי רצח", שינתה את שמה לשם המעודן יותר: "שיתוף נתונים לשיפור הערכת סיכונים".

על פי מסמכי הפרויקט שנחשפו, מדובר בשיתוף פעולה בין משרד המשפטים, משרד הפנים, משטרת מנצ'סטר רבתי והמשטרה המטרופוליטנית בלונדון. לפי הסכם שיתוף המידע בין משרד המשפטים למשטרת מנצ'סטר, הפרויקט משתמש בנתונים של 100-500 אלף איש.

משרד המשפטים הבריטי מקווה שהפרויקט יסייע לשפר את הערכת הסיכונים של עבירות אלימות חמורות ולהגביר את בטיחות הציבור. לפי המסמכים שנחשפו, משרד המשפטים מתכנן "לבחון את הכוח של מאגרי הנתונים ביחס להערכת סיכון לרצח" ולפתח מודלים לזיהוי "מנבאים חזקים בנתונים לסיכון לרצח".

מידע רגיש – גם על מי שמעולם לא הורשע?

הפרויקט, שהחל בינואר 2023 בתקופת כהונתו של רישי סונאק כראש ממשלה, משתמש בנתונים ממקורות רשמיים שונים, כולל משרד המשפטים, המחשב הארצי של המשטרה ומשטרת מנצ'סטר רבתי. לפי הדיווח, הנתונים שהועברו ממשטרת מנצ'סטר כוללים מידע על מאות אלפי חשודים, קורבנות, עדים, נעדרים ואנשים במצבי סיכון. המידע כולל גם את הגיל שבו אדם הופיע לראשונה כקורבן, כולל לאלימות במשפחה, והגיל שבו התקיים הקשר הראשון שלו עם המשטרה.

מסמכי הפרויקט מציינים במפורש כי מידע רגיש הנוגע לבריאות הנפש, התמכרויות, אובדנות, פגיעה עצמית ואף מוגבלויות, "צפוי להיות בעל כוח ניבוי משמעותי". ארגון סטייטווטש טוען כי הפרויקט משתמש גם בנתונים של אנשים שלא הורשעו בעבירה פלילית, אך גורמים רשמיים מכחישים זאת ומתעקשים כי נעשה שימוש רק בנתונים של אנשים עם לפחות הרשעה פלילית אחת.

לטענת סטייטווטש, הפרויקט קשור למאמצים קודמים של משרד המשפטים לפתח כלים מבוססי נתונים לחיזוי פשיעה, כמו ה"מערכת להערכת עבריינים", שתחזיות שלה משפיעות על החלטות בענישה, סיווג אסירים והחלטות על שחרור מוקדם. מחקר שערך משרד המשפטים עצמו מצא כי מודלים אלה מדרגים עבריינים שחורים בצורה פחות מדויקת מאשר עבריינים לבנים.

סופיה ליאל, חוקרת בארגון, מתחה ביקורת חריפה על הפרויקט: "ניסיונו של משרד המשפטים לבנות את מערכת חיזוי הרצח הזו הוא הדוגמה המצמררת והדיסטופית האחרונה לכוונת הממשלה לפתח מערכות 'חיזוי' פשיעה כביכול. פעם אחר פעם, מחקרים מראים כי מערכות אלגוריתמיות ל'חיזוי' פשיעה הן מעצם טבען פגומות.

"המודל האחרון הזה, המשתמש בנתונים מהמשטרה ומשרד הפנים שלנו, שהם מוסדות עם הטיות מוסדיות, יחזק ויגביר את האפליה המבנית המהווה בסיס למערכת המשפט הפלילי. כמו מערכות אחרות מסוגה, היא תטמיע הטיה כלפי קהילות מיעוטים ובעלות הכנסה נמוכה. בניית כלי אוטומטי ליצירת פרופילים של אנשים כפושעים אלימים היא מוטעית עמוקות, ושימוש בנתונים רגישים כל כך על בריאות הנפש, התמכרות ומוגבלות הוא פולשני ומדאיג ביותר".

דובר משרד המשפטים הבריטי אמר בתגובה לחשיפה כי "פרויקט זה מתבצע למטרות מחקר בלבד. הוא תוכנן תוך שימוש בנתונים קיימים המוחזקים על ידי שירות בתי הסוהר והמבחן של הוד מלכותה וכוחות המשטרה על עבריינים מורשעים, כדי לעזור לנו להבין טוב יותר את הסיכון שאנשים במבחן ימשיכו לבצע אלימות חמורה. דו"ח יפורסם בהקדם".