במהלך אסטרטגי דרמטי, שמשקף את המתח שבין צמיחה עסקית לאחריות חברתית, הודיעה ענקית הבינה המלאכותית OpenAI על השהייתו לזמן בלתי מוגבל של ה-"Adult Mode" (מצב מבוגרים). הפרויקט, שזכה לשם הקוד הפנימי "Citron mode", הוקפא על רקע שילוב של לחצים מצד משקיעים, אתגרים טכניים סבוכים וחשש גובר מההשלכות האתיות של יצירת קשרים רגשיים עמוקים בין בני אדם למכונות.
המרדף אחרי ה"סופר-אפ" והפרידה מ-Sora
החלטה זו אינה עומדת בפני עצמה. היא מהווה חלק משינוי כיוון רחב יותר בהובלת סם אלטמן, שנועד לנקות את שולחן העבודה ממה שמכונה בחברה "משימות צד" (Side Quests). לצד גניזת המודל האירוטי, הודיעה החברה על צעד מפתיע נוסף: סגירת מודל יצירת הווידאו Sora והאפליקציה החברתית הנלווית לו.
במקום זאת, OpenAI מרכזת את כל משאביה העצומים במעבדה המוערכת בשווי של כ-730 מיליארד דולר, בבניית "Super App". המטרה היא לאחד את כלי הפריון, עוזרי הקינון (Coding Assistants) ו-ChatGPT לכדי פלטפורמה אחת חזקה הממוקדת בייעלות ובעבודה, ולא בבידור או בליווי רגשי.
אתגרים טכניים וסיכונים מוסריים
פיתוח ה-Citron mode נתקל בקשיים משמעותיים כבר בשלבי האימון. לאחר שנים שבהן OpenAI השקיעה מאמצים כבירים בבניית "מעקות בטיחות" שימנעו מהבינה המלאכותית לייצר תוכן מיני, הניסיון "לחנך מחדש" את המודל התברר כמשימה מורכבת. צוותי הפיתוח נאבקו בסינון תכנים פוגעניים במיוחד מתוך מאגרי המידע, תוך ניסיון לשמור על גבולות דקים בין תוכן אירוטי לגיטימי לבין תכנים המעודדים התנהגויות לא חוקיות.
מעבר לצד הטכני, בתוך החברה נשמעה ביקורת נוקבת מצד עובדים בכירים. חלקם טענו כי יצירת מוצר המעודד התקשרות רומנטית עומדת בסתירה מוחלטת למשימת היסוד של OpenAI: הבטחת תועלת לאנושות כולה. "בינה מלאכותית לא צריכה להחליף את החברים או המשפחה שלך", ציין עובד לשעבר שעזב את החברה על רקע הסוגיה.
ההחלטה מגיעה גם בצל הלקחים מהכישלונות של המתחרה xAI של המיליארדר אילון מאסק, שהמודל שלה גרוק (Grok) ספג ביקורת עולמית לאחר שיצר תמונות מיניות מזויפות של דמויות ציבוריות וקטינים.
OpenAI ניסתה להקדים תרופה למכה באמצעות מערכת לחיזוי גיל (Age Prediction System), אך דיווחים מצביעים על כך שהמערכת סובלת משיעור טעות של מעל 10%. בעולם שבו חברות כמו מטא עומדות למשפט על נזקי מוצריהן לילדים, ב-OpenAI הבינו שהסיכון המוניטיני והמשפטי של חשיפת קטינים לתוכן מיני בטעות עולה בהרבה על הפוטנציאל העסקי הגלום במוצר.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו