המציג אינו אדם: עם התפתחות הטכנולוגיה - גם הזיופים משתכללים

כולנו עושים את זה:רואים משהו ברשת שמרגש או מרגיז אותנו, ומשתפים עם חברים. כולנו גם נתקלנו ב"ידיעות" שהתגלו אחר כך כמוטעות או כפייק, הטעיה מכוונת. מחקרים הראו שרוב בני האדם מאמינים שהם "מעל הממוצע" ביכולתם לאתר פייק ניוז - והם טועים. אז איך אנחנו בכל זאת מצליחים להפריד בין אמת לבדיה?

• גוגל ומיקרוסופט בקרב על הדבר הבא - בינה מלאכותית

• נאס"א תשגר ב-2026 את טלסקופ החלל הישראלי הראשון

• טעות אחת במערכת הבינה המלאכותית של גוגל עלתה לה ב-100 מיליארד דולר

הדרך היסודית ביותר היא לבדוק כמה מקורות או להתייעץ עם חברים שמבינים, אבל זה כבר דורש זמן רב ואנרגיה. גרוע מכך, הדינמיקה של הרשת מעודדת אותנו להיות "הראשון שמשתף" כדי לצבור עוקבים ותגובות. רובנו לא טורחים כמעט להביט על חדשות "ישנות" מלפני יום, אז אנחנו מחליטים לפי כמה זה "מרגיש לנו נכון". חלק ניכר מהתחושה נובע מהסגנון: האם זה כתוב בצורה מקצועית, בסגנון מתאים ותוך שימוש במילים ובניסוחים שאנחנו רגילים להם?

הבינה המלאכותית "היוצרת" (Generative AI) משנה את כללי המשחק לרעה. מעכשיו, אחרי אימון קצר, יכול כל אחד (כמעט) לייצר ידיעה חדשותית או מדעית בסגנון אתרי חדשות רשמיים, גם אם מדובר בשפה שהוא בקושי דובר. אדם באינדונזיה או ברוסיה, לדוגמה, יכול להכין ידיעה על המלחמה באוקראינה - שתכלול גם תמונות משכנעות של אירוע שמעולם לא התרחש.

יתרה מכך, ניתן לדמיין שבעתיד הלא רחוק תוכל מערכת אוטומטית למשוך מהרשת כל ידיעה או מאמר שמתפרסמים ולשנות אותם למשמעות אחרת, אפילו הפוכה מהמקורית, וכל זאת תוך שמירה על סגנון ועל אוצר מילים שמתאימים בדיוק לתוכן.

אפשר להיזכר בתקופת פרוץ הקורונה, כשחיפשנו ידיעות וסיכומים על ממצאים רפואיים שממילא היו לעיתים קרובות סותרים או לא ברורים. איך תיראה ההתמודדות שלנו בעתיד שבו סוכני כאוס מפיצים מאמרים כוזבים, באותו זמן ממש שבו מתפרסמות עבודות המחקר?

הפתרון: אמון

עם הבעיה הזו ראוי להתחיל להתמודד עוד לפני שהיא פורצת במלוא העוצמה. אפשרות אחת היא רגולציה, אבל כיצד ניתן להפעיל רגולציה כאשר אין לה תוקף בכל העולם באופן סימולטני? מה מונע מאותם האקרים, שמפיצים כרגע וירוסים ורוגלות מכל מיני עיירות במדינות דיקטטוריות, להפיץ גם מסה של מידע פייק המיוצר אוטומטית כך שייראה כאילו הגיע ממקורות מהימנים?

לדעת החתום מעלה, הפתרון המקיף טמון באותו מנגנון שבו השתמשו בני האדם משחר ההיסטוריה: המפתח לאמון במידע הוא האמון במפיץ או בשולח המידע. אם המקור הוא מוכר ומאומת, יש סיכוי גבוה בהרבה שהמידע אמין.

סביר שבעתיד כל מקור - מעמוד פייסבוק של אדם פרטי ועד לרשת חדשות - יעבור בדיקות מדגמיות של אמינותו וידורג בהתאם לכך. אבל מי בדיוק ישמור על המדרגים? מי ימנע שם זיופים או פייק? שאלה לא פשוטה. כדאי שנתחיל לחשוב עליה בהקדם.

הכותב הוא מנכ"ל מעבדות המחקר של חברת NEC בישראל