מאמר שפורסם השבוע בוושינגטון פוסט אימת אותנו עם מציאות מפחידה: 2024 היא שנת הבחירות הגדולה בהיסטוריה עם מעצמות כמו ארה"ב, הודו, האיחוד האירופי ובריטניה שהולכות אל הקלפיות. והעיתוי? בחסות הבינה המלאכותית, מעולם לא הייתה יכולת הרמאות והפצת הפייק זמינה כל כך להמונים, בשנה כה גורלית לאנושות. עולה השאלה אם כך האם לא נזכרנו מאוחר מדי והגענו לנקודת האל-חזור? ומה בכל זאת ניתן לעשות?
דיפ פייק (Deep Fake) היא טכנולוגיה מבוססת בינה מלאכותית היוצרת סרטוני וידאו מזויפים ברמה כה גבוהה, עד שקשה להבחין שמדובר בזיוף. הדיפ פייק יכול לבוא לידי ביטוי בסרטונים, אודיו ותמונות.
כך חמאס ואיראן משתמשים בפייק ניוז וב-AI כדי לפגוע בישראל. ארכיון // צילום: ערוץ הכנסת
הטכנולוגיה הזו מתפתחת בקצב מסחרר, בין אם אנחנו מפתחים אותה, או מפחיד מכך, באמצעות למידה ושיפור עצמי. פעמים רבות השימוש בדיפ פייק נעשה עם כוונת זדון, ומנעד התוצאות רחב: ממבצעי השפעה על דעת קהל, גניבות ועד הפללה או ביזוי של אנשים ודמויות ציבוריות (כמו במקרה של הזמרת טיילור סוויפט).
השפעה על דעת הקהל ועל הפוליטיקה
במקרה הישראלי, בנוסף לשתי החזיתות, בצפון ובדרום, החזית השלישית במלחמת "חרבות ברזל" היא במערך ההסברה, בו מתנהלת מלחמה על התודעה והנראטיב שיתקבע לשנים הבאות בקרב הקהילה הבינלאומית. גם כאן הפייק נותן את אותותיו, עם אינספור פייק ניוז הפוגעים באמון הציבור ומטשטשים את גבולות המציאות.
בארה"ב המצב כה מטריד, עד כי יושב ראש בית הנבחרים, מייק ג'ונסון, הקים יחד עם חאקים ג'פריס, מנהיג המיעוט בבית הנבחרים, כוח משימה שנועד להתמודד עם השפעות הבינה המלאכותית על הבחירות בארצות הברית. כוח המשימה שהוקם, מבקש לזהות את האתגרים הטמונים בתוכן שמופק באמצעות בינה מלאכותית.
השורה התחתונה – קל מאוד לשטות בנו
בחודש האחרון עובד בחברת פיננסיים בינלאומית מהונג קונג שילם 25 מיליון דולר לחשבון אליו הורה לו סמנכ"ל הכספים של החברה להעביר את הסכום. הבעיה? הסמנכ"ל, וכל שאר הקולגות שנכחו בשיחת הווידאו – היו זיוף דיפ פייק מתוחכם, כאשר מי שבפועל ישב מאחורי המסך היו נוכלים. זה אמנם נשמע הזוי, אך למען האמת קשה להאשים אותו.
עבור רובנו התרחיש שבו נדבר עם הקולגות או משפחה שלנו בווידאו והזיוף יהיה כל כך מדויק עד שלא נשים לב שמדובר בזיוף שנוצר בידי בינה מלאכותית - נשמע מאוד מוזר. אבל לצערנו, שיטת העוקץ הזו תהפוך לנפוצה יותר ויותר עם השנים וככל שהטכנולוגיה תלך ותתפתח. אם עובד בחברת פיננסים נפל בפח, מה יהיה עם מבוגרים, ילדים, נוער ובכלל כל מי שפחות חשדן מטבעו?
הטכנולוגיה רצה קדימה, הרגולציה אפילו עוד לא יצאה לדרך
זה לא חדש שיש טכנולוגיות שיכולות להיות הרסניות. גם החנית של האדם הקדמון יכלה להרוג, והתמודדנו עם הנושא באמצעות הרגולציה של אותה תקופה, עם החוק "לא תרצח". הבעיה היא שכמו תמיד, הטכנולוגיה מתקדמת הרבה יותר מהר מהרגולציה והפעם היא גם הרבה יותר מתוחכמת מחנית.
איך רשויות החוק והאכיפה יכולות להתמודד עם דיפ פייק ובכלל שלל היכולות המפחידות של AI? זו שאלת מיליון הדולר ואין לי עליה תשובה סדורה. אך מוטב שיתאגדו להם פילוסופים, משפטנים, מומחים לאתיקה, היסטוריונים וכל מי שיש לו מה לתרום לדיון – וירו את יריית הפתיחה- אחרת, הרגולציה לא תזנק.
מה אנחנו יכולים לעשות?
הדבר הראשון והפשוט מכל - הימנעו משיתוף תמונות אישיות וסרטוני וידאו ברשתות החברתיות. אם אתם עדיין מתעקשים לשתף, לכו להגדרות ברשת החברתית והגדירו את הפרטיות לרמה הגבוהה ביותר. שנית, דאגו שלחשבונות המקוונים שלכם יש סיסמאות חזקות מאוד ועדיף שלכל חשבון תהיה סיסמה שונה.
במקביל, בדקו את תוכנת האנטי וירוס שלכם במחשב וסרקו אותו אחת לתקופה בכדי לוודא שהוא מוגן מנזקי תוכנות זדוניות. לבסוף, היכנסו לאתר מערך הסייבר הלאומי ועיינו במודל המפורסם שם, הוא יעזור לכם לזהות סרטונים ותמונות שנערכו בטכנולוגיית דיפ פייק.
הכותב הוא עופר נידם, ראש מדור ומפקד ב-8200 ומנהל ניסויים בתעשייה אווירית לשעבר.
