כשתגיעו לקלפי כבר יהיה מאוחר מדי. ה-AI יצביע במקומכם

הסימנים היו שם כבר בבחירות במארס 2020. ראש הממשלה בנימין נתניהו הפיץ סרטון "מטופל" של יריבו, בני גנץ, קורא כביכול לא להצביע למפלגת כחול לבן שבראשה עמד אז. כשבע שעות חלפו מהגשת עתירה לוועדת הבחירות המרכזית ועד שהוועדה הורתה על הסרתו מכל הערוצים - שבע שעות שבמהלכן הפך הסרטון לוויראלי, והנזק כבר נעשה.

בנובמבר 2024, ברומניה, מועמד אנונימי ופרו-רוסי בשם קלין ג'ורג'סקו זינק מ-5% בסקרים למקום הראשון בבחירות לנשיאות. הבחירות נפסלו בידי בית המשפט, לאחר שהתגלה מבצע השפעה כמעט חסר
תקדים בטיקטוק, שהופעל באמצעות צבא בוטים ובינה מלאכותית.

הבחירות הקרובות, על כך אין חולק, יהיו גורליות לעתידה של מדינת ישראל, וההתפתחויות המדאיגות בתחום ה-AI מעמידות מעליהן עננה של סכנה. אבל כדי לשים את האצבע על מקור האיום, ועל הדרכים שבהן הבינה המלאכותית עלולה להטות את ההצבעה שלכם, אנחנו חייבים לחזור 10 שנים אחורה.

לא בהסכמה, לא בידיעה

מערכת הבחירות לנשיאות ארה"ב ב-2016 היתה קו פרשת המים. אני מתייחסת כמובן לפרשת קיימברידג' אנליטיקה (Cambridge Analytica), שאל השלכותיה התוודענו בדיעבד. תזכורת קצרה: קיימברידג' אנליטיקה היתה חברת ייעוץ פוליטי בריטית, שקיבלה מפייסבוק נתונים על 87 מיליון משתמשים, דרך אפליקציה מתווכת, כמובן ללא הסכמת המשתמשים לפגיעה בפרטיותם.

החברה ביצעה ניתוח פסיכוגרפי-אישיותי, במטרה להשפיע פוליטית הן על קמפיין הברקזיט והן על הבחירות לנשיאות ארה"ב באותה שנה, עבור לקוחותיה, שתמכו במקרה האחד בפרישה הבריטית מן האיחוד האירופי ובמקרה האחר בדונלד טראמפ. בעקבות גילוי הפרשה הוגשה תביעת ענק ייצוגית נגד מטא, אשר הסתיימה בהסדר שבמסגרתו שילמה 725 מיליון דולרים למשתמשיה בארה"ב, אם כי ללא הודאה שפגעה בפרטיותם. במקביל חברת הייעוץ, שלא עמדה בחובותיה, נסגרה, ופייסבוק נקטה שורת צעדים שימנעו דליפת נתונים - בין השאר, ביטול החיבור האוטומטי לאפליקציות צד ג', ומניעת גישה מחקרית לדאטה.

אולם בכך לא היה כדי לבטל את השפעות הפעולה, ששינתה לנצח את הקמפיינים המקוונים. החברה אספה נתונים הנוגעים לאישיותו של כל אדם ותכונותיו העיקריות, וסימנה חמישה מימדי אופי: מוחצנות, נעימות, פתיחות לחוויות, מצפוניות ויציבות רגשית, על פי מה שמכונה מודל Ocean.

בכך היא איפשרה לקמפיינרים ליצור עבור כל אחד מן המשתמשים בפייסבוק קמפיין התפור ספציפית למידותיו, באמצעות הודעות מותאמות אישית: מודעות חשוכות וחבויות - Dark Ads - המוצגות רק למשתמש הספציפי, ואינן מופיעות בחשבון הקמפיין הרשמי או מדווחות ציבורית. בשונה מטירגוט דמוגרפי רגיל - המתמקד בגיל, במגדר, במקום מגורים ובהכנסה - טירגוט פסיכוגרפי מתמקד במצב המנטלי, באמונות, בערכים, בפחדים ובתכונות האישיות של האדם.

קו פרשת המים: כך קיימברידג' אנליטיקה היטתה את בחירות 2016

כך ייצרה המערכת אלפי גרסאות של מודעות פוליטיות לאותו נושא בדיוק (למשל: זכות החזקת נשק או הגירה), כאשר כל גרסה פנתה לחולשות, לפחדים, לתקוות של המשתמש המטורגט. כך, למשל, אדם המאופיין כנוירוטי ברמה גבוהה יקבל מסר פרסומי של תמונת פורץ חמוש, בעל זהות מובחנת של אדם זר או מהגר בלתי חוקי, המנפץ חלון של בית; המטרה, כמובן, היא לרתום את פחדיו, חרדותיו והצורך שלו בהגנה מיידית כך שיצביע באופן מסוים ולא באופן אחר.

הטקטיקה התמקדה בעיקר בקולות הצפים במדינות המפתח, במטרה לעודד אותם לצאת להצביע, או לחלופין - לדכא את הצבעתם של תומכי היריב. לשם ההמחשה, משתמשים שחורים שאופיינו כתומכי הילארי קלינטון טורגטו בסרטונים "מטופלים", המציגים אותה כמי שמדברת בזלזול על אנשים שחורים - ובכך הניאו אותם מלהצביע עבורה. הפרשה הובילה להחמרת חוקי הגנת הפרטיות בעולם, והגבלת האפשרויות של חברות טכנולוגיה לשתף מידע אישי של משתמשים עם צדדים שלישיים.

אלא שהיכולת לאפיין מצביעים על פי תכונותיהם, לפנות לכל אחד מהם באופן נקודתי, לשחק בתודעתם ועקב כך גם לגנוב את הבחירות, בלי שאיש יבחין בכך, רק התעצמה מאז. יכולת זו, בשונה מניטור נקודתי של סרטוני דיפ פייק, אינה ניתנת לניהול או ניטרול אפקטיבי על ידי רשויות החוק.

המועמד שהגיע משום מקום הוצנח במקום הראשון - בזכות ה-AI: בחירות 2024 ברומניה

בשנים 2022-2019 נערכו בישראל חמש מערכות בחירות בתוך שלוש וחצי שנים. הן סימנו מעבר לשלב חדש בתקשורת פוליטית, שאותו אני מכנה הדור החמישי של הקמפיינים הפוליטיים: קמפיינים אלגוריתמיים.

קמפיינים אלו מתאפיינים בשימוש נרחב באלגוריתמים ובטכניקות בינה מלאכותית, המאפשרים מניפולציה מתוחכמת של דעת הקהל, תוך שהם נסתרים מעין הציבור. אין מדובר רק בשדרוג טכנולוגי, אלא שינוי עמוק ומניפולטיבי בכללי המשחק, שכולל איסוף נתונים אגרסיבי, ניסוח מסרים מותאמים אישית והפעלת בוחרים בזמן אמת, בערוצים סמויים המתחמקים מכל פיקוח ואכיפה. כפי שנראה כעת, הם היו רק הקדימון.

בשלהי 2022, פרץ לחיינו מודל הבינה המלאכותית הפופולרי הראשון, Chat GPT 3.5, והעצים את הקמפיינים האלגוריתמיים. שנת 2024 היתה שנת שיא בהיקף מערכות הבחירות שהתנהלו במהלכה מסביב לגלובוס: במהלכה, אזרחים ביותר מ-70 מדינות ברחבי העולם הלכו לקלפיות. אלו היו מערכות הבחירות הראשונות שבהן ניכרה מעורבות בינה מלאכותית בקמפיינים של השפעה, דיסאינפורמציה והתערבות חיצונית, שמאז התעצמה והלכה במקביל לגידול העצום בשימוש בכלי בינה מלאכותית.

תצליחו לזהות?

יו"ר ועדת הבחירות המרכזית, השופט סולברג, יו"ר ועדת הבחירות המרכזית, כבר פסק בסוף החודש שעבר כי קיימת חובה לסמן תוכן שנוצר באמצעות בינה מלאכותית לצורך תעמולת בחירות. על פי החוק שיזמה ועדת הבחירות, כל פרסום תעמולתי שיש בו תוכן חזותי או קולי, שנוצר כולו או חלקו באמצעים דיגיטליים או בבינה מלאכותית או שעבר שינוי מהותי באמצעים אלו, יחויב בצירוף הודעת גילוי ברורה ובולטת.

הוועדה פרסמה שני סמלילים שחלה חובה לסמן באמצעותם את התכנים הרלוונטיים, והודיעה: "אי־עמידה בדרישות הסימון עלולה להיחשב הפרה של החוק, והאחריות לכך מוטלת על המפרסם". 

אבל האם באמת נוכל לזהות מניפולציות מתוחכמות? התשובה, כפי שנראה, היא "בכלל לא בטוח". 

לא רק מאיראן

ההתמקדות הכמעט-אובססיבית של כלי התקשורת וגופי הביטחון בישראל ב"בוטים איראניים" או רוסיים, מחמיצה את הלב הפועם של האיום הדיגיטלי החדש. כפי שמבהירה ד"ר תהילה שוורץ-אלטשולר, עמיתה בכירה במכון הישראלי לדמוקרטיה וראשת התוכנית לדמוקרטיה בעידן המידע, המיקוד המוחלט באיומים חיצוניים מייצר "ראיית מנהרה מסוכנת". מבחינת האזרח הישראלי שנחשף לטקטיקות הפסולות - בין שמדובר במניפולציה מקוונת, בתוכן סינתטי מזויף או בקמפיין השחרה של שחקן פוליטי - התוצאה אחת היא. מיקום השרת שממנו מופעל הקמפיין לא יוצר שום הבדל מעשי. שחקנים פנים-מדינתיים, ואפילו פנים-מפלגתיים, משתמשים בטכניקות מאותו ארגז כלים רעיל של רשתות השפעה, חשבונות מזויפים ופעילות מתואמת לא אותנטית, על מנת להטות את דעת הקהל.

כפי שמסבירה ד"ר שוורץ-אלטשולר, מבצעי השפעה מורכבים לעולם אינם משנים את התודעה הציבורית בפני עצמם - אלא רק כאשר הם נשענים על מה שהיא מכנה "קנוניה וירטואלית" (Virtual Collusion). הם חודרים לשיח הציבורי המקומי, ומקבלים חיים חדשים מגורמים פוליטיים וציבוריים ישראלים המהדהדים אותם, לעיתים קרובות בלי לדעת זאת, רק כדי לנגח יריבים פוליטיים פנימיים.

שוורץ-אלטשולר מבחינה בין שלושה סוגי מסרים:

• מסרים המעמיקים את הקיטוב החברתי והפוליטי.
• מסרים המערערים את יכולתנו לפרש את המציאות נכוחה ולהבדיל בין אמת לזיוף - ממש כמו בספרו של אורוול "1984", שבו מלחמה היא שלום ואמת היא שקר.
• מסרים "תפעוליים" המשפיעים על תהליכים דמוקרטיים; החל במנגנונים לדיכוי הצבעה - למשל, דיווחים מפוברקים על אירוע ביטחוני בקלפי ספציפית, או ההודעות שקיבלו מצביעים מהמגזר הערבי בבחירות 2020 על הצורך לעטות מסיכות קורונה עוד בטרם חלה חובה כזו - וכלה בערעור האמון בתוצאות, לדוגמה באמצעות הטלת ספק ביושרת חברי ועדת הבחירות המרכזית.

אולם בעוד מטרות המסרים לא השתנו זה שנים, דרכי הפצת המסרים עברו קפיצת מדרגה ענקית בארבע השנים שחלפו מבחירות נובמבר 2022. אם בסבבים הקודמים התמקדו ניסיונות השכנוע באותם פוסטים "חשוכים" שעברו מתחת לרדאר של הרשת החברתית, או בצ'אטבוטים דוגמת הביבי-בוט, כעת המצב אחר לגמרי: החשש מפני העברת מסרים פוליטיים הוחלף בחשש שהבוט ישמש מנגנון לאיסוף מידע על המצביעים הפוטנציאליים.

פרופ' ענת בן דוד מהאוניברסיטה הפתוחה מזהירה כי אינטראקציה עם מודל בינה ייעודי פוליטי, הדור המתקדם של הצ'אטבוט שהכרנו בסבבי הבחירות הקודמים, עלולה לחשוף מידע אישי ופוליטי רב על המשתמשים - מזהויות חברתיות, דרך עמדות בנושאים שנויים במחלוקת ועד מחויבות שיוך למחנה פוליטי מסוים. המשתמשים לא חייבים למסור את המידע באופן מפורש, וה-AI יוכל להסיק אותו גם כשהוא משתמע בלבד מדפוסי השיחה.

שחקנים פוליטיים מחפשים דרכים להשפיע על "מקורות ההזנה" של מנועי הבינה המלאכותית, כלומר, על התוכן שעליו הם מבססים את תשובותיהם. הקמפיינרים מציפים את הרשת במאמרים ובציטוטים ממוקדים - במטרה שה-AI יסרוק אותם, ויפלוט את המסר הפוליטי הרצוי כעובדה נחרצת

והסיבות לדאגה לא מסתיימות כאן. בעידן הביג דאטה אפשר בקלות להצליב את המידע זה עם מאגרי מידע פוליטיים קיימים, מה גם שמדובר במערכות בעלות יכולת למידה עמוקות, המסוגלות להגיב בזמן אמת ולהשתיל מסרים במהלך השיחה. מנכ"לית חברת Humane AI, ד"ר לימור זיו, מזהירה מפני הסכנה הטמונה בצ'אטבוטים הפוליטיים כדרך להשפיע על הבחירות. שחקנים פוליטיים מחפשים דרכים להרעיל את "מקורות ההזנה" של מנועי הבינה המלאכותית, כלומר, את התוכן שעליו הם מבססים את תשובותיהם. הקמפיינרים מציפים את הרשת במאמרים ובציטוטים ממוקדים - במטרה שה-AI יסרוק אותם, ויפלוט את המסר הפוליטי הרצוי כעובדה נחרצת.

מחקרים העלו כי שיחה עם בינה מלאכותית משנה עמדות בוחרים יותר מפרסום מסורתי, ומכיוון שכך הסכנה מיידית וברורה;  כשהמפלגות עצמן יתחילו להפעיל צ׳אטבוטים לשיחה ישירה עם בוחרים, הם יעדיפו שכנוע על דיוק. על כך אפשר להוסיף גם את הסקרים הפתוחים המופצים באינטרנט, שעליהם משיבים אלפי בוטים שנקנו בידי המפלגות כדי מנת להטות את תוצאותיהם, ואת מה שמכונה "מודיעין מודעות", (Ad Intelligence), המחבר בין השובל הדיגיטלי שאנו משאירים אחרינו ברשת לזהותנו בעולם האמיתי - ונמכר למפלגות.

שמישהו אחר יבדוק

וכאן נכנס לחיינו מונח חדש: סלופגנדה - הלחם של תעמולה, פרופגנדה, ו"AI Slop" - תוכן ירוד והמוני שנוצר בבינה מלאכותית. את המונח טבעו, במאמר שפרסמו אשתקד, החוקרים מיכל קלינצביץ', מארק אלפנו ואמיר אברהימי פארד; וסמנכ"ל חברה וקהילה של איגוד האינטרנט הישראלי, עידן רינג, מבהיר את פשרו: תעמולה המנצלת תוכן גנרטיבי זול והמוני כדי להשפיע על אמונות, רגשות ותשומת לב, ולהשיג מטרות פוליטיות באמצעות אלגוריתמים.

נכנס לחיינו מונח חדש: סלופגנדה - הלחם של תעמולה, פרופגנדה, ו"AI Slop" - תוכן ירוד והמוני שנוצר בבינה מלאכותית. היא "מתעלה" על התעמולה המסורתית בהיקף הייצור המהיר, בעלות הנמוכה, ביכולת הפשוטה להתאים תכנים לקהלים שונים ובקצב הפצה ויראלי

ייחודה של הסלופגנדה טמון בכך שהיא "מתעלה" על התעמולה המסורתית בהיקף הייצור המהיר, בעלות הנמוכה, ביכולת הפשוטה להתאים תכנים לקהלים שונים ובקצב הפצה ויראלי. הסלופגנדה המרושלת מלכתחילה אינה נשענת על אמינות; היא נועדה לקבע אסוציאציות רגשיות מהירות - לעג, שנאה, פחד - תוך דחיקת כל דיון ענייני ועובדתי מהסדר הציבורי. לא צריך ללכת רחוק מדי כדי למצוא דוגמה: מספיק לציין את סרטון ה-AI של הליכוד שרמז כי איזנקוט מעדיף את יו"ר רע"מ, מנצור עבאס, על בנו גל שנפל בקרב.

אבל מה הטעם ביצירת סרטונים וקטעי קול שהציבור מזהה בבירור כמזויפים ומופרכים? זה המקום לשוב ולהזכיר שאמינות אינה הסיפור כאן. המטרה היא להעכיר את השיח ולהתיש את הציבור. התוצאה היא תשישות קוגניטיבית וקריסה של יכולת הקשב: כשהכל מזויף, מי יכול לבדוק מהי האמת?

בקרוב זה יציף אתכם: הכירו את ה"סלופגנדה"

באופן אבסורדי, מסבירה ד"ר זיו, דווקא טענות לזיוף מגבירות את התמיכה בפוליטיקאים - אפקט שהחוקרים רוברט צ'סני ודניאל סיטרון כינו "דיבידנד השקרנים"; ההאשמה של פוליטיקאים בהפצת תוכן שקרי גורמת לתומכיהם להתבצר עוד יותר בפוליטיקת זהויות שבטית, ולוותר על כל אפשרות לשיח כלשהו.

מיליוני אנשים (כמעט) לבד

יו"ר ועדת הבחירות המרכזית השופט סולברג מנסה לעצור את הסחף, בשורת החלטות שקיבל לאחרונה. הוא דרש לסמן בבירור תכנים פוליטיים שנוצרו ב-AI, ואף הורה ליו"ר הציונות הדתית בצלאל סמוטריץ' להסיר סרטונים מטעים שנוצרו ב-AI, בטענה שכתוביות הסימון עליהן אינן בולטות דיו לגולשים הגוללים במהירות בפיד. לצד זאת, הוא אסר על חברי ועדות הקלפי להעביר למפלגותיהם בזמן אמת נתונים על זהות בוחרים שכבר הגיעו להצביע, במטרה לשמור על פרטיותם. 

אלא שלמרות כל אלה, ועדת הבחירות המרכזית היא גוף חסר יכולות אכיפה משמעותיות. היא מתמודדת בעיקר עם מקרים נקודתיים של זיופים דיגיטליים, באמצעות סעיפים כלליים בחוק, ובעיקר לאחר שמוגשות עתירות. מלבד זאת, האחריות להתמודדות עם השפעה זדונית במרחב הדיגיטלי מפוצלת בין כמה גופים - ועדת הבחירות המרכזית, השב"כ, משטרת ישראל, מחלקת הסייבר בפרקליטות ומערך הסייבר הלאומי. התוצאה, כפי שחשף מחקר שערך מרכז המחקר והמידע של הכנסת, היא היעדר גורם ממשלתי שירכז את המאמצים בתחום, וחוסר בהירות בחלוקת הסמכויות, בעיקר בתקופות שבין מערכות בחירות.

בד בבד, בשעה שבאיחוד האירופי מטא וגוגל הפסיקו לאפשר פרסומים פוליטיים מסוגים מסוימים בשל חקיקה מחמירה, בישראל פעילותן מוסדרת על בסיס שיתוף פעולה מרצון, או במילים אחרות: יהיה בסדר.

נראה אפוא כי בקרב על קיום בחירות הוגנות, הישראלים נותרו כמעט לבדם. למרות הצורך הברור במוסדות שלטון שיגנו על הזכות לאמת, במאה ה-21 עיקר האחריות לשמירה על הדמוקרטיה מוטלת על האזרחים עצמם. ועימה מגיעה גם האחריות לבחון בעין ביקורתית את המציאות - גם אם היא נשקפת אליהם, בעיקר, מהמסך שאליו הם צמודים.

אם מערכות הבחירות הקודמות לימדו אותנו משהו, הרי זו התובנה שהאיום כבר אינו חיצוני. הוא מסתתר בכל גלילה, בכל שיתוף, בכל רגע שבו אנחנו מעדיפים להזדעזע על פני לבדוק. הדמוקרטיה לא תישבר בידי בוט אחד; היא תישבר בידי מיליון אזרחים שהחליטו שלא מתפקידם לבדוק מה נכון.