"אפשר להציף את הרשת": כך AI מאיים לשנות את הבחירות
בינה מלאכותית שימשה ליצירת רשת של כ־1,000 חשבונות, אתר חדשות מזויף ומסמכים מפוברקים בניסיון להשפיע על מצביעים במלזיה • מומחים מזהירים: הטכנולוגיה מאפשרת לייצר ולהפיץ דיסאינפורמציה במהירות, בזול ובהיקפים חסרי תקדים • "אתה לא צריך עשרה אנשים כדי ליצור נרטיב או סיפור. אתה פשוט יכול לכתוב לו 'פרומפט' ולהפיץ"

סכנות הבינה המלאכותית תופסות את תשומת הלב העולמית לאחרונה, והבוקר (חמישי) דווח כי הטכנולוגיה המהפכנית עלולה להעניק למבצעי השפעה פוליטיים ברחבי דרום-מזרח אסיה כלים חדשים ועוצמתיים להפצת דיסאינפורמציה, כך מזהירים מומחים למדינות אסיה, המאופיינות באוכלוסיות צעירות שחיות דרך הרשתות החברתיות.
אחת הדוגמאות המדאיגות נחשפה לאחרונה על ידי חברת אנתרופיק, שפרסמה כיצד נעשה שימוש במודל הבינה המלאכותית Claude במסגרת מבצע השפעה פוליטי במלזיה. במסגרת הפעילות נבנתה פלטפורמה מסחרית שנועדה למניפולציה של בחירות, תוך שימוש ברשת של כ־1,000 חשבונות ב-X, אתר חדשות מזויף בשם "Malaysia Pulse" וסדרה של מסמכים מפוברקים.
לפי החברה, המבצע נועד ככל הנראה להשפיע על מצביעים בבחירות האחרונות במלזיה. במסגרתו נעשה שימוש בנתוני מפקד אוכלוסין ובנתוני בחירות, במטרה לנצל שסעים רגישים בחברה המלזית - כמו סוגיות של גזע, דת ומלוכה - בכל 222 מחוזות הבחירה בפרלמנט במדינה.
המבצע נכשל לאחר שאנתרופיק התערבה, אך חשיפתו עוררה חשש מהאופן שבו ניתן יהיה להשתמש בבינה מלאכותית במערכות בחירות עתידיות בדרום-מזרח אסיה - אזור שכבר סובל עם הפצת חדשות כזב ודיסאינפורמציה.
קייטי הארבת', שבעבר עסקה במדיניות ציבורית הנוגעת לבחירות ברחבי העולם בחברת Meta, אומרת כי המקרה במלזיה ממחיש את השינוי שמביאה הבינה המלאכותית לעולם הדיסאינפורמציה. לדבריה, AI מאפשר ליצור כמויות גדולות יותר של תוכן, באופן אישי יותר, מהיר יותר וזול יותר.
"בינה מלאכותית יכולה להעצים אירועים כאלו - היא מאפשרת יצירת תוכן רב יותר, מותאם אישית, מהר וזול יותר". אמרה הארבת', שכיום עומדת בראש חברת הייעוץ הטכנולוגי Anchor Change. עם זאת, היא הדגישה כי עדיין נדרש מנגנון הפצה, מענה שניתן על ידי הרשתות החברתיות.
אנתרופיק פירטה את הפעילות במלזיה בדו"ח האחרון שלה, שפורסם בספטמבר. בדו"ח תואר כיצד גורמים שונים השתמשו ב־Claude כדי להקים רשתות של פרופילים מזויפים ברשתות החברתיות ואתרי חדשות פיקטיביים, שנועדו לפנות לקהלים בשש יבשות.
בחברה אמרו כי בין הגורמים המעורבים במבצעי השפעה מסוג זה נמצאים ממשלות, גופי תעמולה המזוהים עם מדינות וכלי תקשורת ממלכתיים, וכן חברות פרטיות שמוכרות שירותי השפעה.
אזור דרום-מזרח אסיה אינו זר להפצת דיסאינפורמציה. בשנים האחרונות העיתונאית הפיליפינית וזוכת פרס נובל מריה רסה השוותה את הפיליפינים ל"צלחת פטרי" של ניצול לרעה של דיסאינפורמציה וחדשות כזב - טכניקות שנוסו במדינה ובהמשך שוכפלו בהצלחה גם במערב.
אלא שהבינה המלאכותית עשויה להפוך את התהליך לפשוט בהרבה.
"בעיקרון, AI פשוט מחקה את מה שלפני כמה שנים היינו מכנים מפעל טרולים", אמר רוסין פאלורינה ממכון המחקר הפיליפיני Sigla, העוסק בבינה מלאכותית. לדבריו, הסיבה לכך היא מהירות הייצור: "אתה לא צריך עשרה אנשים כדי ליצור נרטיב או סיפור. אתה פשוט יכול לכתוב לו 'פרומפט' ולהפיץ".
בשנה שעברה חסמה OpenAI חשבונות שעשו שימוש בבינה מלאכותית כדי ליצור תגובות על הפוליטיקה הפיליפינית ועל אנשי ציבור ברשתות החברתיות. רבות מהתגובות המזויפות הביעו תמיכה בנשיא פרדיננד מרקוס הבן.
מומחים חוששים כי השימוש בבינה מלאכותית ברשתות החברתיות עלול להחריף שסעים פוליטיים וחברתיים. "זה מזין את הקיטוב הפוליטי וניזון מהפילוגים", אמרה ברידג'ט וולש מהמכון לחקר אסיה באוניברסיטת נוטינגהאם במלזיה.
הבחירות הכלליות במלזיה עשויות להיערך בסוף 2027. בפיליפינים ובקמבודיה צפויות בחירות ב־2028, ובאינדונזיה בשנה שלאחר מכן.
ד"ר בן לו, מרצה לתקשורת באוניברסיטת מונאש במלזיה, אמר כי תוכן שנוצר באמצעות AI שימש לליבוי שנאה כלפי פליטי הרוהינגיה, שנמלטו ממיאנמר למלזיה במהלך מלחמת האזרחים.
לדבריו, "אנשים כבר הגיעו עם השנאה העמוקה הזאת מושרשת בהם, וכשהם רואים תוכן כזה, גם אם הוא נוצר באמצעות AI, הוא פשוט מחזק מבחינתם את מה שהם כבר מאמינים שהוא נכון".
בדו"ח חברת אנתרופיק נחשף כי אתר החדשות המזויף "Malaysia Pulse" העתיק דיווחים אמיתיים מכלי תקשורת מלזיים, ולאחר מכן השתמש במודל כדי לשכתב אותם מספר פעמים ולפרסם אותם מחדש תחת שמות כתבים פיקטיביים.
האתר גם פרסם מחדש כתבות מכלי תקשורת זרים המזוהים עם רוסיה וסין, בהם TV BRICS, סוכנות Xinhua, Sputnik/RIA ו-CGTN, תוך הסרת הייחוס למקור המקורי.
בדו"ח נכתב: "בכל אחד מהמקרים שבהם זוהתה פעילות השפעה פוליטית, החברה שיבשה את הפעילות, השתמשה במה שלמדה כדי לחזק את אמצעי ההגנה שלה ושיתפה מודיעין עם הרשויות ועם שותפים בתעשייה, במקרים המתאימים".
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו