בינה בונה, בינה הורסת – כך AI יכול לשבור (או לבנות מחדש) את הרשתות החברתיות

אין מי שלא שמע על הגל האחרון בעולם הטכנולוגיה – ה"בוטים" (שירותים מבוססי בינה מלאכותית יצירתית, או Generatiev AI) של שפה טבעית שפרצו בסערה ומשמשים את חלקנו כבר היום לתכנן חופשות, לכתוב קוד או להכין עבודות סמינריוניות.

בטור קודםדיברנו על הסכנה שבוטים כאלו יאפשרו הפקה מסיבית של תכנים או ידיעות פייק בכל שפה, תוך שימוש במונחים המתאימים לתחום ושיראו כידיעה, מאמר או מכתב אותנטי בכל בדיקה אנושית סבירה.

אבל הפעם אני רוצה להמחיש איך אותן טכנולוגיות יכולות גם למנוע חלק מהרעות החולות של עולם הרשתות החברתיות. לא סתם הכריז מייסד פייסבוק מארק צוקרברג ש-AI יהיה הפוקוס החדש של חברת מטא – אחרי שנים של ביקורת קשה על סינון תכנים לקוי, יצירת הקצנה בשיח והפצת פייק ניוז. בפברואר אף השיקה מטא את "לאמה", מודל השפה החדש שלה שמתחרה עם המודלים של חברות כמו OPENAI וגוגל.

כמו כל טכנולוגית מחשב, היתרון הגדול שלה הוא קנה המידה – ברגע שיש משהו שהמחשב עושה טוב, הוא יכול לעשות זאת מהר יותר ובהיקף גדול יותר מכל אדם. לדוגמה – טכנולוגיות השפה החדשות יכולות בקלות לזהות אם ויכוח רשת נהיה רעיל, אם פרופיל מסוים עוסק כל הזמן בהפצת תעמולה פוליטית, או מתי נושא השיחה משתנה.

כיום, האלגוריתמים של הרשתות החברתיות מתקשים למצוא מה יעניין אותנו, או מה מפריע לנו. תארו לעצמכם עתיד בו אתם יכולים להגדיר כברירת מחדל שאינכם רוצים לראות פוסטים מאנשים שעוסקים אובססיבית בנושא מסוים, או לחסום תגובות לא קשורות לדיון. מי מאיתנו לא נתקל בדיון שפתאום הפך לוויכוח על חיסוני קורונה או תאוריות קונספירציה.

אבל זה לא הכל. רובוטי שפה יכולים בקלות לעבור על כל התגובות של פרופיל מסוים ולאפיין אותו – האם הוא רעיל? האם רוב התגובות שלו הן פוגעניות ומכילות מעט מידע או התייחסות לנושאי השיח אליו התפרץ? לא מן הנמנע שבעתיד נוכל להגדיר מסננים מתקדמים ("בלי אנשים שחופרים על טבעונות/קארניזם"), לנוחותנו האישית.

הרשתות החברתיות בהגדרה יוצרות מאזן כוח חדש – אנשים עסוקים, או שאינם טובים בהתבטאות בכתב, או חוששים להביע דעה, נמצאים בנקודת נחיתות לעומת אנשים שיש להם הרבה זמן פנוי, ואולי עוסקים ממילא במקצועות הכתיבה, ומצד שני חשוב להם לקדם נושאים מסוימים. כך נוצר לעיתים מצב שה"רוב הדומם" אינו נשמע, ולעומת זאת קומץ אידיאולוגים יכולים ליצור ברשת חזות של תמיכה רחבה בנושא שולי.

היכולת לאזן מחדש את הרשת קיימת כיום. השאלה הגדולה היא – האם הרשתות החברתיות באמת ירצו לאפשר לאנשים לווסת את השיח שהם נחשפים לו?

הכותב הוא מנכ"ל מעבדות המחקר של חברת NEC בישראל