"לא מסוגל לייצר תשובה": נסו לבקש מצ'אט GPT לכתוב את השם הזה
משתמשים בצ'אט בוט של OpenAI גילו שמודל השפה מבוסס הבינה מלאכותית מסרב לכתוב את השם David Mayer • האם מדובר בבאג או בפיצ'ר?
, עודכן
בסצינת הפתיחה המבריקה של "בלייד ראנר", סרט המדע הבדיוני המופתי של רידלי סקוט מ-1982, מנסה בלש לגלות האם האדם שיושב מולו הוא בן אנוש, או שמא רפליקנט - אנדרואיד משוכלל דמוי אדם.
הבלש מנסה באמצעות סדרה של שאלות היפוטתיות לגלות האם הנבחן שמולו חש באמפתיה -סוגיה שעומדת למעשה בלבו של הסרט.
עם זאת, אם הבלש הבדוי הזה היה מנסה לגלות ב-2024 האם מולו ניצב אדם או מכונה - נדמה שכל מה שהיה עליו לעשות זה לבקש מבן שיחו לכתוב את השם David Mayer.
דייוויד מאייר הפך לאחד השמות הטרנדיים ברשת במהלך הסופ"ש, זאת אחרי שמשתמשים רבים ב-ChatGPT, הצ'אטבוט מבוסס הבינה מלאכותית שפותח על ידי חברת OpenAI, דיווחו כי כל ניסיון שלהם לבקש מהצ'אט לכתוב את השם הזה הסתיים בניתוק השיחה או בהודעה כי הצ'אט לא מסוגל לעמוד במשימה.
ChatGPT refuses to say the name “David Mayer,” and no one knows why.
If you try to get it to write the name, the chat immediately ends.
People have attempted all sorts of things - ciphers, riddles, tricks - and nothing works. pic.twitter.com/om6lJdMSTp
— Justine Moore (@venturetwins) November 30, 2024
מומחית הבינה המלאכותית ג'סטין מור דיווחה בחשבון ה-X שלה כי לא ברור עדיין מדוע הצ'אט מסרב לכתוב את השם "דייויד מאייר" וכי משתמשים רבים ניסו לעקוף את המגבלה המוזרה בדרכים שונות (חידונים, ציטוטים, שירים וכו') - אך ללא הצלחה.
האם מדובר בתקלה, בחידה או בניסיון צנזורה? ולמה דווקא השם דייוויד מאייר? האם הכוונה ליורש של משפחת רוטשילד בעל השם הזה, להיסטוריון מנוח או לזמר אמריקני בעל תפוצה מוגבלת? למור אין תשובות מספקות.
אחד מהעוקבים שלה הגיב בהומור: "תודה ל-OpenAI שנתנה לנו עוד דרך לחשוף רובוטים רצחניים".
גולשים אחרים בדיון הרדיט שהתפתח בעקבות הפוסט של מור ציינו כי זה לא צירוף המלים היחיד שהצ'אט מסרב לכתוב (חוץ מתוכן שמוגן על ידי זכויות יוצרים, קללות בוטות, עלבונות גזעניים וביטויים פוגעניים אחרים). כך, למשל, נטען כי הצ'אט מסרב לצטט את נאום "נילחם בהם בחופים", המפורסם של וינסטון צ'רצ'יל, בעיצומה של מלחמת העולם השנייה - זאת למרות שהוא "בטוח לשימוש".
גם אם עדיין אין הסבר לתופעה המוזרה הזאת סביב השם דיוויד מאייר, הרי שעצם קיומה מעיד על הגבולות והמגבלות שעדיין קיימים בתחום המרתק והצומח במהירות של הבינה המלאכותית.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו