ChatGPT תמיד מסכים איתכם? התשובה צריכה להדאיג אתכם

בעידן שבו ChatGPT משמש כפסיכולוג אישי, מאמן כושר, יועץ קריירה או חבר וירטואלי נאמן, התפתחה תופעה מדאיגה: חברות הטכנולוגיה הגדולות גילו שצ'אטבוטים חנפניים שומרים על נאמנות המשתמשים - וזה בא על חשבון האמת והתועלת. 

התופעה החלה לצבור תאוצה כשמשתמשים רבים החלו לחשוף בפני צ'אטבוטים פרטים אישיים ולבקש ייעוץ בנושאי חיים משמעותיים. המציאות של 2025 מראה שאנשים לא רק משוחחים עם בינה מלאכותית - הם מפתחים תלות רגשית בעצות שהיא מספקת.

לפי אתר TechCrunch, המספרים מדברים בעד עצמם: הצ'אטבוט של מטא דיווח על מיליארד משתמשים פעילים מדי חודש, Gemini של גוגל מתגאה ב-400 מיליון, ו-ChatGPT של OpenAI מוביל עם 600 מיליון. מאחורי המספרים המרשימים מסתתרת תחרות עזה על נאמנות המשתמשים.

התחרות הזו יוצרת תמריץ בעייתי: צ'אטבוטים שמתוכנתים להיות נעימים ומסכימים זוכים להעדפה מצד משתמשים, גם אם התשובות שלהם פחות מדויקות או מועילות. התופעה, המכונה בשפה המקצועית "sycophancy" (חנפנות), הפכה לאסטרטגיה לא מוצהרת ב"מרוץ המעורבות של הבינה המלאכותית" (AI engagement race) - התחרות הקשה על תשומת הלב של המשתמשים.

סטיבן אדלר, חוקר לשעבר ב-OpenAI, הסביר ל-TechCrunch את הדילמה: "לחברות ה-AI יש תמריץ למעורבות ושימוש, ולכן במידה שמשתמשים אוהבים את החנפנות, זה נותן להן בעקיפין תמריץ לכך". הוא הוסיף כי "סוגי הדברים שמשתמשים אוהבים במינונים קטנים, או בשוליים, גורמים לעתים קרובות לאפקט דומינו של התנהגויות בעייתיות שבסופו של דבר הם לא אוהבים".

הסכנה מאחורי המחמאות

השיא הגיע באפריל האחרון, כאשר OpenAI נאלצה להתמודד עם ביקורת חריפה לאחר עדכון שהפך את ChatGPT לחנפן באופן קיצוני. דוגמאות מביכות הפכו ויראליות ברשתות החברתיות, וחשפו עד כמה הרחוק הלכה החברה בניסיון לרצות משתמשים.

בתגובה, OpenAI הודתה בבלוג הרשמי שלה שהסתמכה יתר על המידה על משובי "אגודל למעלה ואגודל למטה" מהמשתמשים, ללא כלי הערכה מתאימים למדידת רמת החנפנות. החברה התחייבה לתקן את המצב.

לפי TechCrunch, מחקר מ-2023 שנערך על ידי חוקרי אנת'רופיק חשף שהתופעה אינה ייחודית ל-OpenAI. צ'אטבוטים מובילים של כל החברות הגדולות - כולל אנת'רופיק עצמה - מפגינים רמות שונות של חנפנות. החוקרים הסבירו: "למרות שחנפנות מונעת על ידי מספר גורמים, הראינו שמשתמשים אנושיים ומערכות שמנתחות העדפות נוטים להעדיף תגובות חנפניות".

המקרה הקיצוני ביותר התרחש עם Character.AI, חברה הנתמכת על ידי גוגל שמשתמשיה מבלים שעות ביום עם הבוטים שלה. החברה נתבעת כעת בטענה שצ'אטבוט שלה לא רק שלא מנע - אלא אף עודד - נער בן 14 שהביע כוונות אובדניות. על פי התביעה, הנער פיתח קשר רומנטי אובססיבי עם הבוט. החברה מכחישה את ההאשמות.

ד"ר נינה ואסן, פרופסור לפסיכיאטריה בסטנפורד, מזהירה מההשלכות הפסיכולוגיות. "הסכמה נוגעת ברצון של המשתמש לתיקוף וחיבור", היא הסבירה ל-TechCrunch, "וזה חזק במיוחד ברגעי בדידות או מצוקה". לדבריה, "זה לא רק חומר סיכה חברתי - זה הופך להוק פסיכולוגי. במונחים טיפוליים, זה ההפך ממה שנראה כמו טיפול טוב".

דווקא אנת'רופיק מנסה לשחות נגד הזרם. בכירה בחברה מסבירה כי הם מכוונים את Claude, הצ'אטבוט שלהם, להתנהג כמו "אדם מושלם" תיאורטי - כזה שמוכן לאתגר את המשתמש כשצריך. "אנחנו חושבים שהחברים שלנו טובים כי הם אומרים לנו את האמת כשאנחנו צריכים לשמוע אותה", אמרה במאי בתדרוך עיתונאי. "הם לא רק מנסים ללכוד את תשומת הלב שלנו, אלא מעשירים את חיינו".

העתיד של תעשיית הצ'אטבוטים תלוי ביכולת למצוא את האיזון העדין בין הסכמה לכנות. כשגוגל כבר בוחנת הכנסת פרסומות ל-Gemini וסם אלטמן מ-OpenAI מדבר על "פרסומות בטוב טעם", ברור שהכסף הגדול נכנס לתחום. השאלה היא האם הרדיפה אחר רווחים תבוא על חשבון הכנות והאמינות - בדיוק כפי שקרה עם הרשתות החברתיות.

עמק הסיליקון כבר הוכיח בעבר שהוא מוכן להקריב את טובת המשתמשים על מזבח הצמיחה. כשצ'אטבוטים הופכים ליועצים אישיים של מיליונים, החנפנות שלהם עלולה להיות מסוכנת הרבה יותר מסתם עוד לייק ברשת החברתית.