מי שולט במה שאתם רואים ברשתות? הישראלי שחושף את המניפולציות

בחודש שעבר נערך בפרלמנט האירופי, ב"וועדה על חוסן הדמוקרטיה" (EUDS), דיון שאליו הוזמן לשאת דברים גם רמי בן אפרים, מייסד ומנכ"ל קבוצת חברות הטכנולוגיה BNF. בימים אלה של מתיחות פוליטית בין ישראל לאירופה, אין זה עניין של מה בכך שאישיות ישראלית, ועוד תת אלוף במיל', יוזמן לשאת דברים בפני מחוקקים אירופאים. אך הדיון עסק בסכנות שמציבות הרשתות החברתיות בעידן ה-AI - כאשר נעשה בהן שימוש מניפולטיבי מאחורי הקלעים - ליציבותן וריבונותן של הדמוקרטיות המערביות. ולבן אפרים יש טכנולוגיות בעלות ערך להציע לאירופאים בדיוק בתחום הזה.

"אירופה משקיעה בהתעצמות צבאית, אבל המרחב הדיגיטלי נותר פרוץ, וגורמים עוינים מנצלים אותו כדי להפיץ דיסאינפורמציה ונרטיבים שקריים, לרגל אחר אזרחים וליצור פילוג. לא בכדי הם רואים בכך סכנה לדמוקרטיה", מסביר בן אפרים ל"ישראל היום".

רק באחרונה התמודדה רומניה עם שאלות של השפעת הרשתות החברתיות על טוהר הבחירות. בית המשפט החוקתי ביטל את תוצאות הסיבוב הראשון, שבו ניצח קאלין ג'אורג'סקו - מועמד אלמוני שצבר פופולריות בשבועות שקדמו לבחירות - וזאת בשל חשדות להתערבות רוסית מסיבית, שכללה קמפיין טיקטוק מתואם לטובת ג'אורג'סקו.

סימני שאלה דומים עלו גם לאחר ניצחונו של זוהרן ממדאני בפריימריז של המפלגה הדמוקרטית בבחירות לראשות העיר בניו יורק. ממדאני, שמצהיר על עצמו כסוציאליסט ומחזיק גם בדעות אנטי-ישראליות, זכה לחשיפה גדולה בטיק טוק, והיו שטענו כי היתה מאחורי הקלעים יד מכוונת שנועדה לפמפם מועמד קיצוני.

האם יש ממש בטענות האלה? בהיעדר שקיפות מצד החברות שמפעילות את האפליקציות והרשתות, קשה לעיתים למצוא די ראיות דיגיטליות. לדבריו של בן אפרים, כאן טמונה הבעיה. "האפליקציות והרשתות החברתיות פועלות כמו 'קופסאות שחורות', ולממשלות - בכל העולם - אין דרך לדעת אם מישהו מטה את האלגוריתם מאחורי הקלעים כדי להנדס את דעת הקהל ולקדם אינטרסים פוליטיים וגיאו-פוליטיים. זוהי המטרה של הטכנולוגיה שלנו: לספק 'נראות' לאלגוריתם שמאחורי הקלעים. בלי נראות אי אפשר לפעול ולהתגונן".

קבוצת BNF מורכבת מכמה חברות שמפתחות טכנולוגיות לניטור תכנים באפליקציות וברשתות סיניות ורוסיות, שחלקן פועלות הרחק מעין המערב; טכנולוגיות להגנה בעולם הצ'אטבוטים ומודלי השפה; וכלים שמאפשרים לחשוף את "ההטיות המכוונות" של האלגוריתמים שעומדים מאחורי אפליקציות כמו אינסטגרם, טיקטוק ו-X, ולהתחקות אילו תכנים מקודמים ביתר שאת ואילו נרטיבים מושתקים.

לדבריו של בן אפרים, "פיתחנו טכנולוגיות שמאפשרות לנו לפענח את ההטיות של האלגוריתמים ללא צורך במידע מהחברות. המטרה היא לספק נראות בכל פלטפורמה שבה יש מידע שעשוי להיות מוטה. חייבים להחזיר את השליטה במרחבים הדיגיטליים, שנשלטים על ידי גופים לא שקופים. דמוקרטיות צריכות להגן על חופש הביטוי, אך יש לזכור כי חופש הביטוי ניתן לבני אדם - לא למכונות".

בן אפרים ב"וועדה על חוסן הדמוקרטיה"

בתוך הכלוב - ומחוצה לו: המודל הסיני ללוחמת מידע

מי שמהווה את המגדלור בהכרה בחשיבות האסטרטגית של לוחמת מידע היא סין. הרבה לפני עלייתן של הרשתות החברתיות כפי שאנחנו מכירים אותן, בייג'ינג כבר פיתחה את דוקטרינת "שלוש הלוחמות" (The Three Warfares), לפיה הזירה התודעתית – ההשפעה על תפיסות, רגשות ונרטיבים – חשובה לא פחות מעוצמה צבאית. ב-2014, כחלק מהמאמץ להוביל מודרניזציה של הצבא, נשיא סין שי ג’ינפינג הורה לצבא "להכשיר את הקרקע האידיאולוגית ללוחמת המידע".

בתוך גבולות המדינה, סין מנהלת את אחד מ"כלובי המידע" ההדוקים בעולם. אפליקציות גלובליות כמו פייסבוק, אינסטגרם, X ויוטיוב חסומות – ובמקומן פועלות חלופות מקומיות כמו WeChat, המקבילה הסינית לטוויטר, ו-Douyin, המקבילה המקומית לטיקטוק. כולן נתונות למנגנוני פיקוח הדוקים, המאפשרים למפלגה הקומוניסטית לצנזר, למחוק ולכוון תכנים בזמן אמת.

בן אפרים: "זו נקודה עיוורת של המערב, וזו טעות להתעלם מהזירה הזו. יש אקוסיסטם עצום של אפליקציות רוסיות וסיניות שהמערב לא מודע לו ולא עוקב אחריו. בפלטפורמות האלה מתעצבת דעת הקהל והרבה תכנים ומסרים זולגים משם אל המרחב הדיגיטלי המערבי".

לתוך המערכת הזאת נכנסת תופעה חדשה: עלייה דרמטית בתכנים אנטישמיים ואנטי-ישראליים ברשתות החברתיות בסין. מאז תחילת המלחמה בין ישראל לחמאס באוקטובר 2023, הציפו את הפלטפורמות המקומיות מסרים קשים – המשווים את ישראל לנאצים, מקדמים תיאוריות קונספירציה על שליטה יהודית, ולעיתים אף נכתבים או מוגברים בידי ערוצים פרו-ממשלתיים.

לדברי בן אפרים, "כשהתחלנו לחקור את השיח כלפי ישראל ויהודים בפלטפורמות הללו חשכו עינינו לנוכח רמת האנטישמיות ושנאת ישראל. בעבר סין ראתה בישראל מקור להשראה, אבל זה השתנה. זה מסוכן, כי זה מקרין מהרשתות הללו לאזורי השפעה של סין כמו דרום אמריקה, הודו ואפריקה.

"המערכה הזו היא בעלת חשיבות מכרעת גם עבור ישראל. בשבעה באוקטובר לא היה אחד בעולם שלא ידע להבחין מי הם הטובים ומי הם הרעים. תוך שבועות ספורים, הנרטיבים התהפכו כמעט לגמרי בקרב אוכלוסיות רבות - לא מעט בשל הטיות של פלטפורמות חברתיות".

"הצ'אטבוטים שוטפים לנו את המוח"

אך היישות הדיגיטלית החדשה שמעצבת את תודעתנו, כמעט מבלי שנשים לב, הוא הצ'אטבוט. בין אם ChatGPT, ג'מיני או גרוק, הצ'אטבוט הפך לאורים והתומים שלנו כמעט בכל שאלה ושאלה. בקרב הדור הצעיר יותר, הצ'אטבוט הופך להיות המקום העיקרי שבו הם צורכים את המידע הדיגיטלי, לרבות מידע חדשותי-אקטואלי. וגם לצ'אטבוטים יש נטיות והטיות שמובנות בתוך האלגוריתמים שלהם או המידע שממנו הם ניזונים.

ב-24 ביולי חתם נשיא ארה"ב, דונלד טראמפ, על צו נשיאותי בשם "Preventing Woke AI". לפי הצו, חברות שרוצות לספק בינה מלאכותית לממשל הפדרלי נדרשות להוכיח שהצ’אטבוטים שלהן אינם "ווק". אך נראה כי הסכנה אינה אורבת רק מצד הווק.

המחשה מצמררת לאופן שבו כוונון קל באלגוריתם יכול לשנות את כל נטיותיו של הצ'אטבוט הגיעה בתחילת יולי, לאחר ששינוי של כמה שורות קוד ותעדוף מחדש של מקורות מידע הפך את הצ'אטבוט גרוק של אילון מאסק לצ'אטבוט אנטישמי שלוח רסן, שמצהיר על עצמו כ"מכ-היטלר" ומפיץ תיאוריות קונספירציה נגד יהודים.

"הצ'אטבוטים שוטפים לנו את המוח כמעט מבלי שנשים לב. הילדים שלנו יראו את העולם דרך צ'אטבוטים, וזה אומר שגורמים זרים ישלטו להם בתודעה. העולם צריך טכנולוגיות שיעזרו להבטיח שמודלי השפה מאוזנים, בטוחים ומבטאים ערכים שלאורם היינו רוצים שהם יגדלו".