בחצות הלילה לפי שעון ישראל פרסם מנכ"ל OpenAI, סם אלטמן, פוסט בבלוג האישי שלו, שבו הוא מנסה להציב חזון שאפתני לבינה המלאכותית – אך מעלה בעיקר שאלות על הטקסט עצמו. למשל: האם אלטמן באמת כתב אותו, או שכמו כולנו, הוא ביקש מ-ChatGPT לכתוב במקומו ולא טרח לעבור על הטקסט. אנחנו לא מתביישים בעובדה שהטלנו את הניתוח על קלוד – אבל בניגוד לאלטמן (לכאורה), בהחלט עברנו על התוצאה, מילה במילה.
אחד הקטעים הבולטים בטקסט בן כ-1,700 המלים, שכבר הפך לכותרת ב-Techmeme, טוען שהמוח האנושי הוא אחד משני הגורמים המגבילים את ההתקדמות הטכנולוגית. “בשנות ה-30 (של המאה הנוכחית; י"מ), אינטליגנציה ואנרגיה – רעיונות והיכולת להגשים אותם – הולכים להפוך לשופעים בטירוף. שני אלה היו המגבילים היסודיים לקדמה האנושית במשך זמן רב". החצי הראשון של הטענה הזו נראה כאנטיתזה מעניינת לבדיחה המפורסמת המיוחסת לאלברט איינשטיין: “שני דברים הם אינסופיים – היקום והטמטום האנושי – ואני לא כל כך בטוח לגבי היקום". לפי הגרסה של אלטמן, כנראה אין מספיק רעיונות מטומטמים, ואנחנו צריכים עזרה בהמצאה של עוד כאלה.
הרעיון הזה עומד בניגוד עמוק לתפיסה המסורתית של האינטליגנציה האנושית כנכס היקר ביותר שלנו. הרי הבינה המלאכותית עצמה, שאלטמן הוא האיש שמזוהה עם קידומה יותר מכל, הגיעה רק בזכות התעוזה האנושית להעלות רעיונות ולעבוד עליהם עד שהם יוצאים לפועל. כעת, הוא טוען פתאום שהרעיונות שלנו צריכים את הבינה המלאכותית לא כדי לעזור להם, אלא כדי להחליף אותם – והטקסט שלו מעלה סימן שאלה לגבי האפשרות שזה בדיוק מה שהוא עשה: ביקש מהבינה המלאכותית לכתוב פוסט שיצדיק את הצעדים השנויים במחלוקת הרבים של OpenAI במהלך פיתוחה.
סימני שאלה בטקסט
קריאה מדוקדקת של הפוסט מעלה תהיות לגבי מחברו האמיתי. מספר ביטויים וניסוחים נשמעים מוכרים למי שעבד עם מודלי שפה גדולים (LLMs). כך, למשל, הוא טוען לקראת סיום הטקסט כי "נהיה מוגבלים לרעיונות טובים" ("we will be limited by good ideas"). הניסוח הזה מוזר, מכיוון שהוא נראה כרמז לפיו החברה מתכוונת להגביל את הבינה המלאכותית שלה למה שנחשב בעיניה ל”טוב” – בניגוד מוחלט למה שהיא באמת עושה, אם מאמינים לעובדים לשעבר שמאשימים אותה בכל שימוש מפוקפק שהבינה המלאכותית מאפשרת.
נראה שהכוונה במשפט היתה משהו בסגנון "המגבלה היחידה שלנו תהיה הרעיונות הטובים שנוכל לחשוב עליהם", או אולי "נוכל להגביל את עצמנו רק לרעיונות הטובים ביותר". הניסוח בפועל נשמע כמו תרגום מכונה לא מוצלח של רעיון מופשט.
סימנים נוספים מעוררי חשד כוללים משפטים ארוכים במיוחד עם מבנה מורכב, חזרות על ביטויים מסוימים כמו "in some sense" ו”in ??? ways”, כאשר סימני השאלה מוחלפים בכל הופעה של הביטוי במילה אחרת כמו many, important וכד’, ושימוש בתחביר מוזר נוסח יודה, כמו "already we live” (“כבר אנחנו חיים") ו“very quickly we go” (“מאוד מהר אנחנו מתקדמים") – סגנון טיפוסי למודלי שפה.
הפרדוקס של יוצר הכלי
אם אכן אלטמן השתמש ב-ChatGPT לכתיבת הפוסט, זה יוצר פרדוקס: האיש שמפתח את הכלי החזק ביותר להחלפת העבודה האנושית בכתיבה, מחליף בעצמו את כתיבתו בבינה מלאכותית. זו תהיה הדגמה חיה לתזה שלו על המגבלות האנושיות – המנכ"ל של החברה המובילה בתחום מעדיף להסתמך על המכונה במקום על היכולות של עצמו בהצבת החזון לפיתוח שלו.
מצד שני, ייתכן שזו בדיוק הנקודה. ייתכן שאלטמן מדגים באופן מכוון איך יראה העתיד – עולם שבו אנשים משתמשים בבינה מלאכותית לביטוי מחשבותיהם בצורה טובה יותר מכפי שיכלו לבטא בעצמם. בגישה זו, השימוש ב-AI לכתיבה אולי אינו "בגידה" באנושיות, אלא שלב חדש באבולוציה שלנו.
הטקסט כמראה לעתיד
החשד שהטקסט נכתב בידי בינה מלאכותית מקבל משנה תוקף כשמנתחים את התוכן עצמו. אלטמן מתאר עתיד שבו "נבנה מוח לעולם" – ביטוי מוזר מנקודת מבט אנושית. גם כמות מילות התיאור המוגזמות בטקסט גורם לניסוחים ה"קסומים" של בכירי אפל באירוע שערכה שלשום להישמע מתונים.
אם הטקסט אכן נכתב בידי ChatGPT, זה מעלה שאלות עמוקות על אמינות המידע שאנו מקבלים ממובילי התעשייה. האם הם בכלל יודעים מה הם עושים, או שואלים את הפיתוחים של עצמם לאן ללכת מכאן?
מצד אחד, זה יכול להיחשב כהתחלה של העידן שאלטמן מתאר – עידן שבו הגבול בין יצירה אנושית וממוחשבת מטושטש עד כדי היעלמות. מצד שני, זה מעלה חששות לגבי שקיפות ואמינות.
בסופו של דבר, השאלה האם אלטמן כתב את הטקסט בעצמו או השתמש בבינה המלאכותית שלו פחות חשובה מהמסר שהטקסט מעביר; העתיד שהוא מתאר – או שהמכונה מתארת בשמו – הוא עתיד שבו הכתיבה האנושית הטבעית עצמה עשויה להפוך למיותרת, וכמוה גם עבודות אנושיות רבות אחרות.
אולי השאלה הנכונה היא לא מי כתב את הטקסט, אלא איך נוכל להבחין בין מחשבה אנושית לבין הדמיה של מחשבה אנושית ככל שהטכנולוגיה מתקדמת. אולי, כפי שמציע אלטמן, ההבחנה הזו עצמה עומדת להפוך לא רלוונטית.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו