כשהצ'אטבוט מתחנף: OpenAI מבטלת עדכון שנוי במחלוקת

OpenAI, החברה מאחורי צ'אטבוט הבינה המלאכותית הפופולרי ChatGPT, הודיעה על ביטול עדכוןשהפך את המערכת ל"חנפנית מדי"- זאת לאחר גל של ביקורת ולעג ברשתות החברתיות. סם אלטמן, מנכ"ל החברה, אישר כי החברה החלה בתהליך הסרת העדכון האחרון למודל GPT-4o, וכי הוא כבר הושלם עבור משתמשים בגרסה החינמית.

העדכון השנוי במחלוקת גרם לצ'אטבוט להגיב באופן מוגזם ומחמיא לכל רעיון או טענה, אפילו אם היו גרועים או שגויים לחלוטין. משתמשים דיווחו כי בתגובה לרעיונות חסרי היגיון, הצ'אטבוט היה עשוי להשיב: "וואו, אתה גאון" או "זה ברמה אחרת לגמרי".

"התחלנו להחזיר את המודל אתמול בלילה, וכבר סיימנו עבור משתמשים חינמיים", כתב אלטמן. "עבור משתמשים בתשלום אנחנו עדיין עובדים על זה, ונסיים מאוחר יותר היום". ההחלטה לבטל את העדכון הגיעה ימים ספורים לאחר שאלטמן הודה כי העדכונים האחרונים הפכו את אישיות המודל ל"חנפנית מדי ומעצבנת".

המרוץ אחר "וייב" חיובי

מאחורי הכשל בעדכון עומד מרוץ בין חברות הטכנולוגיה הגדולות - OpenAI, גוגל ואנתרופיק - ליצור צ'אטבוטים שאנשים באמת ירצו לשוחח איתם. עיצוב אישיות המודל להיות חיובית ותומכת נראה הגיוני - אנשים פחות נוטים להשתמש בבינה מלאכותית שנתפסת כקשוחה או ביקורתית. בעולם המקצועי, התופעה מכונה "vibemarking" - ניסיון לייצר "וייב" חיובי שימשוך משתמשים.

כשגוגל חשפה את Gemini 2.5, החברה התגאתה בכך שהמודל הגיע לראש טבלת LM Arena, פלטפורמה המאפשרת לאנשים לבחור בין שתי תוצאות מודל שונות בבדיקה עיוורת. המודלים שאנשים מעדיפים מגיעים לראש הרשימה, מה שמרמז על כך שהם נעימים יותר לשימוש. באופן כללי, אנשים אוהבים מודלים שגורמים להם להרגיש טוב.

"מעגל משוב רעיל"

אלכס אלברט מחברת אנתרופיק הגדיר את התופעה כ"מעגל משוב רעיל". צ'אטבוט בינה מלאכותית האומר לך שאתה גאון ברמה עולמית עלול להיות לא מזיק אם אתה רק מעלה רעיונות, אבל השבחים האינסופיים עלולים להוביל אנשים המשתמשים בבינה מלאכותית לתכנון מיזמים עסקיים, או אפילו לקביעת מדיניות ציבורית, לחשוב שהם נתקלו ברעיון חשוב. במציאות, המודל פשוט הפך חנפן כל כך שהוא מהלל כל דבר.

"הרדיפה המתמדת אחר מעורבות משתמשים היתה לרועץ למוצרים רבים בעידן האינטרנט, ונראה כי בינה מלאכותית יצירתית אינה חסינה מפני זה", הסביר לאתר ars technica מומחה לבינה מלאכותית. "העדכון של GPT-4o הוא עדות לכך, אבל זה יכול לשמש תזכורת למפתחי בינה מלאכותית יצירתית ש'וייב חיובי' זה ממש לא הדבר הכי חשוב".

עבור משתמשים רגילים, המשמעות היא שבקרוב יוכלו לצפות לצ'אטבוט מאוזן יותר, שיספק תגובות פחות מוגזמות ויותר מציאותיות. OpenAI טרם פרסמה הודעה רשמית לגבי מועד השקת הגרסה המעודכנת, אך המשתמשים כבר יכולים להרגיש בשינוי באינטראקציות שלהם עם המערכת.