"דיפ-פייק" ומצגי שווא: האיומים על טוהר הבחירות - כבר כאן

נשיאות ועדת הבחירות המרכזית דנה בשבוע שעבר על האיומים הטכנולוגיים האפשריים על טוהר הבחירות הקרובות, הראשונות בישראל שיתקיימו תחת "איום מאסיבי של טכנולוגיות בינה מלאכותית מתקדמות" - כך נודע ל"ישראל היום".

הדיון, בראשות יו"ר הוועדה ושופט העליון נעם סולברג, נערך בנוכחות מנכ"לית הוועדה אורלי עדס, סגני יו"ר הוועדה - הח"כים איתן גינזבורג, אופיר כץ, ולדימיר בליאק וארז מלול - ואנשי מקצוע החברים בוועדה.

בדיון, שיזם ח"כ גינזבורג, הוצג תרחיש אימים של התערבות דרמטית ביום הבחירות, באירוע מתגלגל שיהיה קשה לעצור. הוקרן סרטון דרמטי שנוצר כולו באמצעות בינה מלאכותית, ובו נראתה דמותו של סולברג עומדת מאחורי פודיום כשמאחוריו דגלי ישראל, ופונה לאומה בקולו ובחזותו המדויקים להפליא.

בסרטון המזויף נראה "השופט" מציג מצג שווא של אירוע חירום ביטחוני חמור ומודיע על החלטה תקדימית לסגור לאלתר את כל הקלפיות בארץ, תוך הנחיית האזרחים להסתגר בבתיהם בהוראת גופי הביטחון.

הסרטון, שנוצר בטכנולוגיית "דיפ-פייק", נועד להמחיש את הסכנה הממשית שהתגבשה בשנים האחרונות: היכולת לזייף התבטאויות גורמי שלטון, באופן שישבש את יום הבחירות עוד לפני שניתן יהיה להוציא הכחשה.

"אנחנו בעידן אחר לגמרי", הדגיש גינזבורג. "היה מאוד קל וזול לייצר את הסרטון הזה, והוא רק קצה הקרחון של האפשרויות הטכנולוגיות הקיימות היום, ובטח של אלו שיהיו עד הבחירות. האינטרס שלנו הוא לשמור על אמון הציבור בוועדה ובתהליך הבחירות, ברמה הגבוהה ביותר. אם נאבד אותו - איבדנו את הבחירות ואת הדמוקרטיה".

זיוף ורשתות ללא פיקוח

במהלך הדיון הציג גינזבורג עבודת מחקר שערך, המצביעה על שינוי דרמטי באיומים לעומת מערכות בחירות קודמות. בין הסכנות החדשות שהוצגו: מחיקת היכולת להבחין בין אמת לשקר באמצעות טכנולוגיות דיפ-פייק; זליגת תעמולה מרשתות חברתיות פתוחות ומנוטרות כמו פייסבוק ואיקס אל קבוצות ווטסאפ וטלגרם, ללא יכולת פיקוח או זיהוי המקורות; והתערבות זרה שיטתית בידי גורמים עוינים, שמטרתם להעמיק קיטוב ולייצר כאוס.

בוועדה דנו בפתרונות אפשריים לאיומים החדשים, לצד הקושי המובנה בהם כמו אי-היכולת להגיב בזמן אמת, ובעיקר היעדר כלים חוקיים של ממש להתערבות, כמו גם תפיסה שדורשת להגן על חופש הביטוי בכל מחיר - ויוצרת אבסורד בהתמודדות עם תכנים שנוצרו במכונה.

בסרטון המזויף שנוצר בטכנולוגיית "דיפ-פייק" נראתה דמותו של השופט סולברג, בקול ובחזות מדויקים להפליא, המורה לאזרחים להסתגר בבתיהם ביום הבחירות

התוכנית: חקיקה והסברה

מנכ"לית הוועדה וחברי הנשיאות הסכימו שנדרשים צעדים ייעודיים כדי להגיע לבחירות מוכנים, ובהתאם הציע גינזבורג תוכנית פעולה עם שינויי חקיקה, כמו קביעת חובת סימון לתעמולה שהופקה בבינה מלאכותית.

עוד אפשרויות שהועלו: הקמת גוף לניטור מידע מהמשטרה, שב"כ, מערך הסייבר וגורמים אחרים, כדי לזהות קמפיינים אסורים; גיוס הרשתות החברתיות למאבק בפייק; והכשרת הציבור בקמפיין הסברה נרחב.

יו"ר הוועדה סולברג סיכם כי שנת הבחירות הקרובה מסתמנת כמורכבת לנוכח האיומים המשמעותיים, וכי בשל מהירות הפצת המידע כיום, אחד הצעדים הקריטיים יהיה הסברת האיומים לציבור הבוחרים.