גוגל בהודאה מוזרה: מיליונים נהרגו בגללנו

לאחר יותר משנתיים של שתיקה, חברת גוגל הודתה בכישלון חמור במערכת ההתרעה המוקדמת שלה לרעידות אדמה במהלך הרעידה הקטלנית בטורקיה ב-6 בפברואר 2023. ההודאה המאוחרת חושפת פרצות חמורות בטכנולוגיה שמיועדת לשמש "רשת ביטחון גלובלית", ומעלה שאלות בנוגע לאמינות של מערכות התרעה פרטיות.

כישלון טכנולוגי קטלני

מערכת התרעת רעידות האדמה של גוגל, שפועלת בכמעט 100 מדינות ובהן ישראל, נכשלה באופן דרמטי ביום האסון. במקום לשלוח התרעות חירום בולטות ל-10 מיליון אנשים שחיו במרחק של עד 157 ק"מ ממוקד הרעש – כפי שהיה אמור לקרות – המערכת שלחה רק 469 התרעות כאלה לקראת הרעידה הראשונה במגניטודה 7.8.

חצי מיליון אנשים קיבלו התרעה פחות בולטת תחת הכותרת "Be Aware" (לעומת “Take Action” בהתרעת חירום), המיועדת לרעידות קלות ואינה עוקפת מצבים שקטים במכשירים (כמו “נא לא להפריע”). זוהי התרעה שאינה מעירה משינה – פרט קריטי לאור העובדה שהרעידה אירעה בשעה 04:17 בבוקר.

חקירה מפורטת שפרסמו חוקרי גוגל בכתב העת המדעי Science חשפה את שורש הבעיה: המערכת העריכה את עוצמת הרעידה הראשונה ב-4.5 עד 4.9 בסולם המגניטודה לפי מומנט, בעוד שבמציאות היא הגיעה ל-7.8. זוהי טעות משמעותית, שהשלכותיה היו קטלניות.

גם הרעידה השנייה ברצף לא זוהתה כראוי, כאשר המערכת של גוגל שלחה התרעות "Take Action" רק ל-8,158 מכשירים, והתרעות "Be Aware" לכמעט ארבעה מיליון. הכישלון הכפול הדגיש את הבעייתיות באלגוריתמי הזיהוי של החברה.

מציאות טרגית

באופן פרדוקסלי, ב-BBC מודים בחצי פה שאחרי רעידת האדמה התבקשו ע"י גוגל לראיין תושבים בטורקיה על יעילות הטכנולוגיה – אך לא מצאו כמעט אף אדם שקיבל את ההתרעה הדחופה, ולבסוף דיווחו לגוגל על הממצאים ופרסמו כתבה שבה אף הטילו על החברה אחריות למספר הנפגעים הגבוה באסון – מעל 55,000 הרוגים ומעל 100,000 פצועים, שרבים מהם יכולים היו לנוס מהבניינים הישנים שקרסו לו קיבלו את התרעת החירום 35 שניות לפני הרעידה.

שיפור בדיעבד

לאחר האסון, חוקרי גוגל שינו את האלגוריתם וערכו סימולציה של הרעידה הראשונה. הפעם המערכת יצרה 10 מיליון התרעות "Take Action" לאנשים בסיכון הגדול ביותר ו-67 מיליון התרעות "Be Aware" נוספות לתושבים רחוקים יותר ממוקד הרעידה.

פרופ' אליזבת רדי מבית הספר למכרות של קולורדו ביטאה תסכול: "אני ממש מתוסכלת מכך שלקח כל כך הרבה זמן. אנחנו לא מדברים על אירוע קטן – אנשים מתו – ולא ראינו ביצועים של ההתרעה הזו באופן שהיינו רוצים".

כזכור, ה"שיפורים" הללו הובילו למצב הפוך – התרעות שוא, שגם אותן חווינו השנה בישראל, כאשר בליל תחילת המתקפה הישראלית באיראן קיבלו מיליוני משתמשי הסמארטפונים של החברה בארץ התרעה על רעידת אדמה שמעולם לא קרתה.

האם אפשר לסמוך על טכנולוגיה?

העובדה שלקח יותר משנתיים לקבל מידע זה מגוגל מעוררת דאגה לגבי שקיפות ואחריות של תאגידי טכנולוגיה בתחומי בטיחות ציבורית.

המקרה מעלה שאלות רחבות על התלות במערכות פרטיות לביטחון ציבורי. גוגל טוענת שהמערכת אמורה להיות משלימה, ולא להחליף מערכות לאומיות. עם זאת, מדענים מודאגים מכך שמדינות מפתחות אמון בטכנולוגיה החדשה והלא מוכחת ונמנעות מפיתוח מערכות התרעה עצמאיות יקרות.

דובר גוגל מסר ל-BBC, לצד ההתנצלות ולקיחת האחריות המאוחרת, כי "אנחנו ממשיכים לשפר את המערכת על בסיס מה שאנחנו לומדים בכל רעידת אדמה". החברה הדגישה כי כל מערכת התרעה מוקדמת מתמודדת עם אותו אתגר – כוונון אלגוריתמים לאירועים בעוצמה גדולה.