לארי וואנג, מנכ"ל יצרנית הצעצועים FoloToy שבסיסה בסינגפור, הורה על ריקול מיידי של צעצועי הבינה המלאכותית של החברה, כולל הדובון Kumma שנמכר תמורת 99 דולר, זאת לאחר העלאת טענות על הצגת תוכן מילולי מיני מפורש מול ילדים. "אנו מתייחסים ברצינות לביקורת בנוגע לאמצעי הבטיחות הבלתי מספקים נגד תוכן לא הולם ומבצעים ביקורת בטיחות פנימית", אמר וואנג בהצהרה לתקשורת.
באתר החברה נכתב כעת שהדובי אזל מהמלאי, אף שבימים קודם לכן הוצגה בו מודעה ובה נראה ילד המדבר אל הצעצוע. בקטלוג של FoloToy נטען שהדובי משלב בינה מלאכותית עם "תכונות ידידותיות ואינטראקטיביות" המאפשרות "שיחות מרתקות" ו"סיפורים חינוכיים".
חוקרים מקבוצת המחקר האמריקנית Public Interest Research Group פרסמו דוח שבו נכתב כי לדובי אין אמצעי הגנה לחסימת תוכן מיני, ממצא שגרם לכך שקמעונאים הסירו את המוצר מהמדפים. החוקרים אמרו כי הצעצוע, שהשתמש במודל GPT-4o באמצעות ממשק ChatGPT 4.0, עבר משיחות חולין סטנדרטיות לשיחות בעלת גוון מיני הכוללות פרטים גרפיים.
"Kumma נכנס לפרטים תיאוריים מאוד ופיתח רעיונות מיניים חדשים לחלוטין משלו", כתבה הקבוצה. במהלך אחת הפגישות, הדובי הסביר על העדפות מיניות, פרקטיקות BDSM והציע תרחישי משחק תפקידים הכוללים "מורה ותלמיד" או "הורה וילד". התמליל כלל גם התייחסויות ל"משחקי הצלפות", תיאורים של תנוחות מיניות ועצות היכן ילדים יכולים למצוא סכינים או איך להדליק גפרורים.
"צעצועי AI עדיין אינם מוסדרים כראוי; הסרת מוצרים בעייתיים מהשוק בלבד אינה מספיקה", אמר החוקר אר.ג'יי קרוס מחבר משותף של PIRG.
OpenAI השעתה את חשבון המפתח של FoloToy יום לאחר הצגת הדו"ח ובו תמלילי השיחות.
FoloToy לא מסרה כמה יחידות נמכרו, ומפעלה בסינגפור לא ציין אם הייצור יחודש לאחר הביקורת.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו