כך תדעו אם התגובה שקראתם נכתבה על ידי בוט

שבוע לפני הבחירות, אחד הנושאים הבוערים הוא ניסיונות להטות את דעת הקהל ע"י קמפיינים מכוונים עם מידע מוטעה או הפצה יזומה של עמדות מסוימות. רודריגו גונזלס, מכוכבי הריאליטי הראשונים בישראל וכיום מומחה להשפעה וקמפיינים, הגיע לענות על שאלות בנוגע לזיהוי של קמפיינים כאלה.

ראשית, הוא מדגיש שהטכנולוגיה כיום כה מתוחכמת, שקשה מאוד לקבוע אם תגובה מסוימת נכתבה ע"י אדם אמיתי או בינה מלאכותית. עם זאת, המפתח לזיהוי טמון בהתנהגות כוללת יותר: "אם אתם רואים תגובה שחוזרת על עצמה בתזמון, בקצב ובכמויות במקומות אחרים הקשורים לאותו נרטיב – שם אנחנו מבינים שיש משהו מאחורי הקלעים", הוא אומר.

רמת הקושי בזיהוי משתנה בין פלטפורמות שונות; כך, למשל, ברשתות ויזואליות כמו אינסטגרם וטיקטוק, המבוססות על וידאו ומיקום גיאוגרפי, קל יותר לאמת זהות, בין היתר בזכות מנגנון הווי הכחול. לעומת זאת, ברשתות מבוססות טקסט דוגמת דיסקורד או רדיט, המשימה הופכת לקשה בהרבה, מה גם ש-X, למשל, מאפשרת לרכוש וי כחול תמורת כסף ללא דרישה לאימות זהות ספציפית של המשתמש. לכן, בפלטפורמות כאלו נדרש ניתוח מעמיק של התנהגות, קצב, כמויות, סגנון ואפילו רווחים ופיסוק כדי לזהות פעילות של AI לעומת בני אדם.
‏

תעשיית הפייק ניוז: מראש ממשלת ספרד ועד "פליי דובאי"

קמפיינים של השפעה אינם צומחים בחלל ריק, אלא מתוכננים בקפידה. גונזלס מביא כדוגמה את הצהרותיו של ראש ממשלת ספרד, פדרו סאנצ'ס, שהאשים קונספירציה מסתורית בין ישראל למרוקו באירועי סאוטה בקיץ החולף. מיד לאחר מכן, משפיענים החלו להדהד את המסר, האשטאגים תואמים הציפו את הרשת, ותמונות מהעבר צפו מחדש. "הדברים האלה נעשים בכוונה. הם תהליכים טכנולוגיים מתוכננים", הוא מסביר.

‏דוגמה נוספת התרחשה סביב אירוע טיסת "פליי דובאי". משפיענים דוברי ערבית בעלי אינטרס פוליטי הפיצו מונחים בקנה מידה רחב. משם, עיתונאים החלו לשאול שאלות ולראיין אנשים שלא נכחו באירוע, אך שירתו נרטיב מסוים. לבסוף, גופי התקשורת הדהדו את הכותרות, ואנשים רגילים החלו להפיץ את המידע המזויף, בין אם מתוך סקרנות או רצון להאמין בו.

מהפיכת הבינה המלאכותית - ואיך מתגוננים ממנה

הפעלת קמפיין השפעה מאסיבי היא משימה מורכבת ויקרה, המבוצעת לרוב על ידי מדינות, ארגונים פוליטיים או מותגים מסחריים. עם זאת, כניסתה של הבינה המלאכותית קיצרה משמעותית את לוחות הזמנים. "בעבר היינו מדברים בעולמות של שנים או חצי שנה, היום עם יכולות AI אנחנו מדברים על חודש או רבעון להוביל נרטיב באופן מאסיבי", חושף גונזלס.

גם ‏כאשר מתגלה קמפיין השפעה, כמעט בלתי אפשרי לאתר את מי שעומד מאחוריו. הדבר היחיד שכן אפשר לעשות הוא להקשות על מימון של קמפיינים כאלה בדרכים שונות.

בכל מקרה, כדי לא ליפול בפח, גונזלס מייעץ לבחון את פרופיל המשתמש ולחפש התנהגות אנושית אותנטית. בנוסף, הוא מזהיר מפני הסתמכות על כלי בינה מלאכותית לבדיקת עובדות: "לא ללכת לצ'אט-GPT לשאול האם זה אמיתי או לא – המודלים ‘מורעלים’. הכי חשוב שאנחנו כבני אדם נטיל ספק, נחקור ונשאל".