בשל "תוכן התעללות מינית בילדים": אפל הסירה את טלגרם מה-App Store 

הסרת טלגרם מה-App Store הכתה את התעשייה בשוק • פאבל דורוב חושף כיצד סוחטים השתמשו בתוכן פדופילי מבוסס AI, בהודעות ישנות מושתלות וב"חור" באכיפה של אפל כדי להפיל מיליארד משתמשים • כעת מייסדים מזהירים: "אף אפליקציה לא בטוחה"

בשל "תוכן התעללות מינית בילדים": אפל הסירה את טלגרם מה-App Store . צילום: רויטרס

אירוע דרמטי התחולל השבוע בחנות האפליקציות של אפל: ענקית הטכנולוגיה הסירה במפתיע ובלי אזהרה מוקדמת את אפליקציית טלגרם - המשרתת יותר ממיליארד משתמשים - בעקבות זיהוי של חומרי פדופיליה (CSAM). האפליקציה הוחזרה לחנות בתוך כ-40 דקות עד מספר שעות (לאחר שהתוכן הוסר והמשתמש נחסם), אך הסיפור מאחורי הקלעים מעורר דאגה נרחבת בתעשייה. מייסד ומנכ"ל טלגרם, פאבל דורוב, יצא בהאשמות חריפות נגד אפל וחשף כי הפלטפורמה נפלה קורבן למתווה "סחיטת הסרות" מתוחכם במיוחד.

ה"טריק הטכני": איך עבדה שיטת הסחיטה?

לפי דורוב, התקיפה בוצעה על ידי רשת סוחטים שסוחטת מנהלי קבוצות ציבוריות. כאשר מנהלי קבוצות סירבו לשלם פרוטקשן, הסוחטים פתחו במבצע להפלת הקבוצה והפלטפורמה כולה. התוקפים לא העלו תוכן לא חוקי כהודעה חדשה (דבר שהיה מוקפץ מיד על ידי מערכות הניטור והמשתמשים). תחת זאת, הם השתמשו בחשבונות אוטומטיים כדי לערוך הודעה ישנה מאוד בתוך צ'אט קבוצתי פעיל. עריכת ההודעה הישנה הפכה את התוכן החריג - שלדברי דורוב היה תוכן פדופילי שיוצר או שונה באמצעות בינה מלאכותית - לבלתי נראה בפועל עבור חברי הקבוצה הרגילים.

טלגרם ואפל, צילום: רויטרס/אי.פי

במקום לדווח לצוותי הניטור של טלגרם, הסוחטים דיווחו ישירות לאפל כדי ליצור מנגנון הסרה אוטומטי ולהפיל את האפליקציה מחנות האפליקציות. "הסוחטים מצאו דרך לתמרן את אפל להגיב בתגובת יתר. אפל הסירה את טלגרם מה-App Store עוד לפני שבכלל יצרה איתנו קשר. זהו סיכון מערכתי לכל אפליקציה שמארחת תוכן גולשים", הבהיר דורוב.

טבעת החנק סביב דורוב - והלחץ הרגולטורי

התגובה הדרמטית של אפל לא התרחשה בחלל ריק. ענקית הטכנולוגיה מקופרטינו נמצאת תחת לחץ עצום מצד רשויות החוק והרגולטורים ברחבי העולם, הדורשים מאיתנו להדק את הפיקוח על תכנים פליליים. טלגרם, מנגד, מתמודדת מזה תקופה ארוכה עם תדמית של "עיר מקלט" לעבריינים.

האירוע הנוכחי מגיע בהמשך לסדרת סיבוכים משפטיים חמורים של הפלטפורמה: החל מהסתבכותו של המייסד בצרפת והאישומים החמורים נגדו בגין אי-מניעת הפצת חומרי פדופיליה וסחר בסמים, דרך צעדים משפטיים חסרי תקדים מצד רשות הבטיחות ברשת באוסטרליה (eSafety) על אי-הסרת תכני טרור, ועד לאישומים טריים ברוסיה.

"הדיווחים על מותי היו מוגזמים בהחלט". פאבל דורוב, צילום: אי.אף.פי

מבחינת אפל, מדובר בסיוט תדמיתי ומשפטי. החברה מבועתת מהמחשבה שתוחזק כ"משתפת פעולה" או כצינור הפצה של תכנים פליליים מתוך חנות האפליקציות שלה. בדיוק בשל כך, אפל מפעילה כיום מדיניות נוקשה של "אפס סובלנות" - כזו שמובילה אותה ללחוץ על הדק ההסרה באופן מיידי, עוד לפני יצירת קשר עם המפתחים או בירור נסיבות האירוע.

"כל אפליקציה יכולה להיות הבאה בתור"

האירוע עורר גל ביקורת בתעשיית הטכנולוגיה לגבי הכוח הבלתי מוגבל של אפל כ"שומרת סף". טים סוויני, מנכ"ל Epic Games, תקף בחריפות את ההחלטה של אפל וטען כי מדובר בהפעלת מדיניות שרירותית. "אם זה הסטנדרט להסרת אפליקציות, אף אפליקציית תקשורת בקנה מידה רחב לא תוכל לפעול - כולל iMessage עצמה", אמר. 

החשבון הרשמי של טלגרם ב-X (טוויטר לשעבר) הגיב בהומור עוקצני כשכתב: "הדיווחים על מותי היו מוגזמים בהחלט", והוסיף תיוג ישיר לאפל. "אני בטוח שהעמדה הזו תופעל בצורה שווה גם על כל שאר האפליקציות בחנות בעתיד, נכון?"

למרות העוקצנות הרוסית, בתגובה להאשמות ולצעד הקיצוני של אפל, בחרה טלגרם להציג את נתוני האכיפה שלה כדי להוכיח שהיא אינה מעלימה עין מתופעות פליליות. הפלטפורמה, שכאמור משרתת כיום יותר ממיליארד משתמשים פעילים בחודש, סופגת ביקורת קבועה על רמת השיטור הנמוכה בה, אך המספרים הרשמיים שהיא מציגה מציירים תמונה של מלחמה מתמשכת.

לפי נתוני החברה, רק במהלך השנה החולפת היא זיהתה וחסמה יותר מ-337 אלף קבוצות וערוצים ציבוריים שהפיצו תכני פדופיליה וניצול קטינים. בטלגרם מדגישים כי הניטור מתבצע באמצעות שילוב של אלגוריתמי בינה מלאכותית, דיווחי משתמשים וסריקות יזומות, לצד שיתוף פעולה הדוק עם ארגונים בינלאומיים להגנת ילדים כמו NCMEC האמריקני.

מבחינתו של דורוב, הנתונים האלו מוכיחים כי הפצת תוכן פלילי בטלגרם אינה בעיה מערכתית אלא אירוע קצה נקודתי - ומחזקים את טענתו כי המקרה האחרון היה תוצאה של מנגנון סחיטה מתוחכם שעוקף בכוונה את מערכות הניטור הקיימות, ולא כישלון של מנגנוני הסינון של החברה.

היסטוריה של יחסים טעונים

עבור מי שעוקב מקרוב אחר תעשיית הטכנולוגיה, ההסרה של טלגרם מה-App Store לא הייתה אירוע חסר תקדים, אלא פרק נוסף ברומן מדמם שנמשך כבר שנים. בשנת 2018 ביצעה אפל מהלך כמעט זהה, כשמחקה בפתאומיות את אפליקציית טלגרם ואת גרסת הניסוי Telegram X מחנות האפליקציות. גם אז הסיבה המוצהרת הייתה זיהוי של "תוכן לא הולם" וחומרי ניצול ילדים שחמקו ממערכות הניטור של הפלטפורמה. באותה עת, האפליקציה הוחזרה לחנות רק לאחר שדורוב וצוותו הידקו באופן משמעותי את אלגוריתמי הסינון, חסמו ערוצים בעייתיים והבטיחו להטמיע מנגנוני הגנה נוקשים יותר.

"תוכן לא הולם". טלגרם, צילום: רויטרס

החזרה על אותו תרחיש כעת מוכיחה כי למרות השנים שעברו והשקעת המשאבים האדירה מצד טלגרם, המתיחות המובנית בין חופש הביטוי והפרטיות של טלגרם לבין דרישות האכיפה והסינון הדרקוניות של אפל נותרה פצע פתוח. המקרה הנוכחי מבהיר כי הסטטוס-קוו בין שתי ענקיות הטכנולוגיה רעוע במיוחד, וכל תקרית בודדת עלולה להצית את הסכסוך מחדש.

איך עבד מנגנון הסחיטה בפועל?

התהליך החל בניסיון סחיטה מתוכנן מצד התוקפים כלפי מנהלי קבוצה ציבורית בטלגרם: כאשר אלה סירבו לשלם דמי חסות, החלו הסוחטים לפעול כדי להפיל את הקהילה ואת הפלטפורמה כולה. כדי לעקוף את מערכות הניטור והמשתמשים שעלולים לדווח על השרשור. עריכת ההודעה הישנה הותירה את התוכן הפלילי "בלתי נראה" בפועל עבור חברי הקבוצה והמנהלים, ובכך נמנעה אפשרות הדיווח הפנימית. מיד לאחר מכן, במקום לדווח לצוותי הניטור של טלגרם, פנו הסוחטים בדיווח ישיר וממוקד לאפל. המהלך תמרן את אפל להגיב בתגובת יתר מיידית ולהסיר את טלגרם כליל, ללא פנייה מקדימה לבירור. רק לאחר שטלגרם איתרה והסירה את התוכן החריג, וחסמה את חשבון התוקף, הוחזרה האפליקציה לחנות.

ה-Mac נשאר באוויר, האייפון נחסם

אחת הנקודות המרתקות ביותר באירוע - וכזו שחושפת את הכאוס הניהולי באפל בעת אירועי חירום - היא הפער הטכנולוגי שנוצר בין הפלטפורמות השונות של החברה. בזמן שטכנאי האבטחה של אפל מיהרו להסיר את טלגרם מחנות האפליקציות של האייפון והאייפד (iOS), חנות האפליקציות של מחשבי ה-Mac (Mac App Store) המשיכה להציע את אפליקציית טלגרם להורדה חופשית לחלוטין. משתמשים קיימים באייפון יכלו להמשיך להשתמש באפליקציה, אך משתמשים חדשים ב-iOS נחסמו, בעוד שמשתמשי המחשבים של אפל לא חשו בשום שינוי.

הפרדוקס הזה מוכיח עד כמה ההחלטה של אפל הייתה נקודתית, מהירה ואפילו, אפשר לומר, היסטרית. המהלך בוצע בחיפזון כה רב בתגובה לדיווח הבודד, עד שהצוותים הפועלים בחברה אפילו לא סינכרנו את הצעד בין חטיבות המערכת השונות. האנומליה הזו שימשה מאוחר יותר כלי נשק בידי מבקרי החברה, שטוענים כי אפל פועלת בצורה שרירותית, לא עקבית וללא פרוטוקול מסודר ושקוף בעת הסרת אפליקציות ענק.

תמונת המצב

אפל סירבה להגיב על טענות הסחיטה והחזרה של דורוב, ומסרה רק כי התוכן שהפר את המדיניות הוסר והמשתמש נחסם.

הפרשה מדגישה את האתגר העצום שעומד בפני פלטפורמות תוכן בעידן שבו כלי AI מאפשרים לייצר ולהסוות תכנים פליליים במהירות, לצד הפגיעות של מפתחי אפליקציות מול מנגנוני האכיפה האוטומטיים והנוקשים של ענקית הטכנולוגיה מקופרטינו.

טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו

כדאי להכיר