התוכנה המבוססת בינה מלאכותית שגתה - החשוד הלא נכון נעצר. אלוי צ'ודהורי, מהנדס תוכנה בן 26 מסאות'המפטון, עבד מהבית ב-7 בינואר כאשר שוטרים דפקו על דלתו ועצרו אותו. הוא הוחזק במעצר במשך 10 שעות - רק בגלל שמערכת זיהוי פנים אוטומטית התאימה את תמונתו לתיעוד מצלמת אבטחה של שוד שבוצע חודש קודם לכן.
לפי דיווח בדיילי מייל, המערכת, שסורקת מיליוני תמונות, זיהתה "התאמה" בין צ'ודהורי לבין הגנב האמיתי - אדוארד זלטיניאנו, בן 23 מבירמינגהאם, שגר כ-225 קילומטרים ממקום השוד - מקדש בודהיסטי במילטון קיינס. זלטיניאנו, שגנב 3,000 פאונג וכמה תכשיטים, נעצר כבר ביום השוד, הודה באשמה ונידון ל-21 חודשי מאסר. אך למרות זאת, צ'ודהורי, שתמונתו נמצאה במאגר המשטרה בעקבות מעצר שגוי קודם שארע לפני 5 שנים - נעצר שבועות אחר כך.
ההבדלים בין השניים בולטים לעין: צ'ודהורי בעל שיער מתולתל, זקן עבה יותר וגבות בולטות, בעוד זלטיניאנו בעל שיער קצר שחור ומראה שונה לחלוטין. "כולם אמרו לי את אותו הדבר - לא נראים דומים בכלל", סיפר צ'ודהורי לדיילי מייל, "אני עדיין לא מבין איך הם התבלבלו בינינו. השוו את תמונה שלי ל-3 אנשים במהלך החקירה. לאף אחד מהם לא היה דמיון אליי".
צוד'הורי אמר כי הוא נעצר בשעה 16:00 אחר הצהריים אך רק במהלך החקירה, שהתנהלה בשעת חצות מאוחרת, הבינו הבלשים מיד כי מדובר בטעות. "השוטרת אמרה לי שהיא ידעה מיד שאני לא החשוד, עוד לפני שהתחלנו לדבר", הוא סיפר. למרות זאת, הוא נאלץ להישאר במעצר עד השחרור בשעה 2 לפנות בוקר. צ'ודהורי הודיע כי הוא תובע את המשטרה, ודורש התנצלות ופיצויים על עוגמת הנפש שנגרמה לו, לא בפעם הראשונה.
"טעות של 4%? זה בלתי מתקבל על הדעת"
צ'ודהורי אמר בהתבסס על מחקר של משרד הפנים כי המערכת סובלת מ"שיעור שגיאות מחריד" - 4% בקרב פנים אסיאתיות, ו-5.5% בקרב שחורים, לעומת 0.04% בלבד אצל לבנים. "אף חברת טכנולוגיה לא הייתה משיקה מערכת כזו עם שיעור כשל של אחד ל-25", אמר, "זה מלא באגים".
לדבריו, גם הבדיקה הוויזואלית של השוטרים לוקה בחסר: "הם ראו שני אנשים חומים והחליטו שזה 'מספיק קרוב'. זה נשמע כמו אפליה גזעית". המשטרה טוענת כי המעצר התבסס על "הערכה ויזואלית של החוקרים" ולא רק על ה-AI, אך צ'ודהורי דורש חקירה, חקיקה חדשה והגבלות על השימוש בתוכנה האוטומטית לזיהוי פנים.
המקרה מעורר דיון מחודש על הסיכונים שבשימוש בבינה מלאכותית באכיפת החוק. מחקרי משרד הפנים בבריטניה מראים כי המערכת משמשת ל-25,000 חיפושים בחודש, אך היא אמורה לשמש רק כ"מודיעין" ולא כראיה מוחלטת. צ'ודהורי חושש כי תמונתו החדשה במאגר תגרום למעצרים חוזרים: "עכשיו אני עלול להיעצר שוב ושוב".
המשטרה מסרה בתגובה לאירוע כי: "בעוד שאנו מתנצלים על המצוקה שנגרמה למתלונן במקרה זה, מעצרו התבסס על הערכתם החזותית של קציני החקירה עצמם, לפיה האדם תאם לחשוד בצילומי טלוויזיה במעגל סגור לאחר התאמה רטרוספקטיבית של זיהוי פנים, ולא הושפע מפרופיל גזעי".
היא אישרה כי נעשה שימוש בתוכנה האוטומטית לזיהוי פנים אך הוסיפה כי זה לא היה הגורם המכריע למעצר. על המעצר הארוך, שהתברר בדיעבד כמיותר הוסיפה המשטרה: "למרות שבדיקות מאוחרות יותר הסירו מאדם את החשד, אין בכך כדי להפוך את המעצר ללא חוקי. אנו ממשיכים להשתמש בכלי שיטור באחריות תוך שאיפה לשיפור ולבניית אמון בקהילות שלנו".
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו