המשפיענים החדשים: כשצ'אטבוטים משכנעים יותר מבני אדם

התרגלנו לחשוב על צ'אטבוטים כעוזרים דיגיטליים שמזמינים עבורנו טיסה, מנסחים מייל או מפנים אותנו לנציג. אבל מה אם הם מסוגלים לעשות משהו הרבה יותר משמעותי – לשנות את הדעות שלנו?

מחקר חדש שפורסם השבוע בכתב העת המדעי Nature Human Behavior גילה שבינה מלאכותית, ובעיקר מודלים מתקדמים כמו המודל GPT4 של חברת OpenAI, מצליחה לשכנע בני אדם בדעותיה טוב יותר מאנשים.

במחקר, שערך מכון המחקר Fondazione Bruno Kessler באיטליה, השתתפו 900 אנשים מארה"ב. כל אחד מהם נכנס לדיון מקוון קצר מול יריב – לפעמים אדם אחר, ולפעמים בינה מלאכותית. נושאי הדיון היו טעונים ומורכבים, כמו שינויי אקלים, הפלות, הכנסה בסיסית ועוד. המשתתפים קיבלו ארבע דקות לכתוב טיעון ראשוני, לאחר מכן שלוש דקות להגיב, ואז שלוש דקות לסיכום. בסיום, התבקשו לדרג אם עמדתם השתנתה – ואם כן, עד כמה.

התוצאה: הצ'אטבוטים שכנעו את בני האדם ב-64 אחוז מהמקרים – יותר מהאנשים שדיברו איתם. ומה שלא מפתיע הוא שהבינה המלאכותית הצליחה עוד יותר כשהייתה לה גישה למידע בסיסי על האדם שמולה – כמו גיל, מגדר, נטייה פוליטית והשכלה.

המניפולציה הדיגיטלית

העובדה שבינה מלאכותית יכולה לשכנע אותנו בצורה טובה יותר מבני אדם מעלה שאלות עמוקות על השפעה, מניפולציה ואחריות. החוקרים קוראים לקובעי מדיניות ולמפתחים לשים לכך לב ולקבוע גבולות ברורים. יש צורך דחוף ברגולציה שתמנע שימוש מניפולטיבי בטכנולוגיה כזו. זה גם הזמן לשאול שאלות על שקיפות – האם נדע אם מי ש"מדבר" איתנו ברשת הוא בן אדם או צ'אטבוט?

אנחנו המשתמשים צריכים להיות מודעים: כאשר אנו משתתפים בשיח ברשתות, קוראים טוקבק משכנע במיוחד או נחשפים לקמפיין פוליטי ממוקד – יכול מאוד להיות שכלל אין אדם בצד השני.

רק לאחרונה פורסם כי שורת דמויות ציבוריות בישראל – בהן יוסי ורדי, אייל ולדמן ויזמים נוספים – הופיעו לכאורה בפרסומות מזויפות בפייסבוק שנוצרו על ידי בינה מלאכותית, והפנו גולשים לקבוצות השקעה פיקטיביות. במקרים הללו, הבינה המלאכותית לא רק ניסחה את ההודעות, אלא השתמשתה בדמותם כדי להגביר את האמינות.

ההשפעה של בינה מלאכותית על הדעות שלנו משנה את כללי המשחק. מדובר בטכנולוגיה עוצמתית, שמביאה איתה הזדמנויות – אבל גם אחריות. השאלה הגדולה עכשיו היא לא מה הבינה המלאכותית יכולה לעשות, אלא איך אנחנו כחברה נבחר להתמודד איתה. כי בעולם שבו כל תגובה ברשת עלולה להיות מיוצרת באופן אוטומטי, אולי המיומנות החשובה ביותר שנצטרך לפתח היא ספקנות בריאה.