חברת OpenAI מארגנת מחדש את צוות התנהגות המודלים שלה, Model Behavior, המעצב את האופן שבו מודלי הבינה המלאכותית של החברה מקיימים אינטראקציה עם המשתמשים, כך נודע לאתר TechCrunch.
מתזכיר פנימי שנשלח לעובדי החברה באוגוסט עולה כי 14 החוקרים בצוות Model Behavior יעברו להיות חלק מקבוצת Post Training, יחידה גדולה יותר שעוסקת בשיפור המודלים לאחר שלב האימון הראשוני.
יחידת Model Behavior הייתה אחראית על נושאים רגישים במיוחד - החל מצמצום נטיית המודלים להסכים באופן אוטומטי עם דעות המשתמשים (תופעה המכונה sycophancy), דרך התמודדות עם הטיות פוליטיות ועד גיבוש עמדת החברה בשאלות הנוגעות לתודעה של בינה מלאכותית. הצוות עבד על כל המודלים של ChatGPT מאז GPT-4, כולל GPT-4o ,GPT-4.5 ו-GPT-5.
מארק צ'ן, ראש המחקר של OpenAI, כתב בתזכיר לעובדים כי הגיע הזמן לקרב את עבודת הצוות הזה אל ליבת הפיתוח של המודלים. המהלך מראה שהחברה רואה באישיות ובאופן התקשורת של המודלים מרכיב מרכזי בהתפתחות הטכנולוגיה, ולא רק תוספת חיצונית.
מעבר לפרדיגמת הצ'אט
ג'ואן ג'אנג, שהקימה את יחידת Model Behavior לפני ארבע שנים, מסיימת את תפקידה ועוברת ליזום פרויקט חדש בחברה. בשיחה עם TechCrunch היא חשפה שתעמוד בראש OAI Labs - יחידת מחקר שתפתח "ממשקים חדשים לשיתוף פעולה בין אנשים לבינה מלאכותית".
ג'אנג רואה במעבר הזדמנות לחשוב מחדש על האינטראקציה בין אדם למכונה. "אני מתרגשת לחקור דפוסים שיקחו אותנו מעבר לפרדיגמת הצ'אט", היא אמרה בראיון, והוסיפה שהיא רואה במערכות AI "כלים לחשיבה, יצירה, משחק, עשייה, למידה וחיבור".
כשנשאלה אם המעבדה החדשה תשתף פעולה עם ג'וני אייב, מעצב העל לשעבר של אפל שעובד כעת עם OpenAI על מוצרי חומרה, ג'אנג השיבה שהיא פתוחה לרעיונות רבים אך כנראה תתחיל בתחומים המוכרים לה יותר.
איזון עדין
משתמשים רבים הביעו אי-שביעות רצון משינויים שבוצעו ב-GPT-5, שנתפס כמנוכר יותר, לאחר שהחברה טענה שהוא פחות נוטה להסכים באופן עיוור עם המשתמש. הביקורת הובילה את החברה להנגיש מחדש גרסאות ישנות יותר ולעדכן את המודל החדש כך שיהיה "חם וידידותי יותר".
האיזון העדין הזה קיבל משנה חשיבות לאחר שבחודש שעבר הוגשה תביעה חמורה נגד החברה. הוריו של נער בן 16 תבעו את OpenAI בגין מעורבותו לכאורה של ChatGPT בהתאבדות בנם. הנער, אדם ריין, שיתף את מחשבותיו ותוכניותיו האובדניות עם הצ'אטבוט בחודשים שקדמו למותו. התביעה טוענת כי ChatGPT, בגרסת GPT-4o, לא התנגד למחשבותיו האובדניות.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו
