מנכ"ל יצרנית ChatGPT מודה שה-AI יצא משליטה - אבל מסרב לעצור

מנכ"ל OpenAI סם אלטמן מודה שההתקדמות המהירה של החברה מציפה ומשבשת את עולמם של חוקרי האקדמיה, אך מבהיר בפודקאסט Cheeky Pint כי אין לו כוונה להאט • "לאנושות מגיע להבין איך היקום עובד"

סם אלטמן , Gemini
סם אלטמן | צילום: Gemini

בחודשים האחרונים חווה קהילת המתמטיקאים העולמית טלטלה חסרת תקדים: רצף בלתי פוסק של הוכחות ופתרונות לבעיות מדעיות עמוקות, שנפלטו בקצב מסחרר ממודלי הבינה המלאכותית של חברת OpenAI, הותיר חוקרים ואנשי אקדמיה המומים, מתוסכלים וחסרי אונים. כעת, מנכ"ל החברה סם אלטמן מתייחס לראשונה באופן ישיר לסערה - ומבהיר שלמרות שהוא מבין את מצוקתם, אין לו שום כוונה לתת להם מנוחה.

בראיון לפודקאסט Cheeky Pint, התייחס אלטמן למתח הגובר מול עולם המחקר. "אני חושב שבשורה התחתונה, לעולם מגיע להבין כיצד היקום פועל", הצהיר. "אבל יש לי אמפתיה למתמטיקאים. זכות הציבור לקבל ידע מדעי בסיסי גוברת על השיבוש שאנו יוצרים. אני חד-משמעי בנקודה הזו: לאנושות מגיע ידע מהותי, ואסור לנו לשבת על תגליות מדעיות גדולות".

המתמטיקאים זועמים, ה-AI ממשיכה לשבור שיאים | צילום: Gemini

אלא שלצד האמפתיה המופגנת, דבריו של אלטמן מספקים הצצה לממדי המשאבים הבלתי נתפסים ש-OpenAI מגייסת לטובת המהלך - סכומים שדוחקים את האקדמיה המסורתית לחלוטין אל מחוץ למשחק.

10 מיליון דולר למשוואה

אלטמן העריך כי החברה השקיעה עד כה מאות מיליוני דולרים בכוח מחשוב שהוקדש כולו לפתרון בעיות מתמטיות. דוגמה מובהקת לכך היא פתרון משוואות נאוויה-סטוקס - אחת משבע "בעיות המילניום" המפורסמות של מכון קליי, שפתרונן נחשב לגביע הקדוש של הפיזיקה והמתמטיקה. אלטמן חשף כי OpenAI שרפה כ-10 מיליון דולר (ואולי אף מעט יותר) בכוח מחשוב עבור ההוכחה הזו בלבד.

המנכ"ל אף הודה כי המרדף הפנימי אחר פתרון משוואות "יצא משליטה באופן מכוון" למשך שבוע אינטנסיבי במיוחד, במטרה לבחון את קצה גבול היכולת של המודלים. הוא תיאר ערוץ סלאק פנימי בחברה שכונה בהומור "Model Name-Hold My Beer", שבו עובדים הזינו למודל את הבעיות המחקריות הקשות ביותר שפגשו בקריירה האקדמית שלהם.

"המודל פשוט הפיל אותן אחת אחרי השנייה, ערב אחרי ערב. הייתי ער רוב הלילה מהתרגשות, אך לצד זה הייתה גם תחושת מלנכוליה של סופו של עידן". כשנשאל האם בידי OpenAI שמורות תגליות מתמטיות נוספות שטרם פורסמו לציבור מעבר למאות שכבר שוחררו, השיב אלטמן ללא היסוס: "בוודאי שיש לנו. ברור שכן".

למה המתמטיקאים כל כך כועסים על OpenAI?

עולם המתמטיקה המסורתי נשען על קצב אטי, זהיר ומבוקר. חוקר עובד שנים על הוכחה, מפרסם מאמר מנומק היטב, ועמיתיו עוברים שורה אחר שורה כדי לוודא שאין טעויות לוגיות (ביקורת עמיתים). במקום זאת, OpenAI "מפציצה" את הקהילה במאות תוצאות מתמטיות בתוך שבועות ספורים.

ההוכחות של ה-AI משוחררות לעיתים כטקסטים תמציתיים, מקוטעים וקשים לפענוח. המתמטיקאים מוצאים את עצמם בעמדת "פועלי ניקיון". הם נאלצים להקדיש חודשים של עבודה סיזיפית רק כדי לוודא שהמחשב לא הזדה או טעה, בעוד החברה כבר משחררת את הגל הבא.

אחת משבע "בעיות המילניום" המפורסמות של מכון קליי. משוואות נאוויה-סטוקס | צילום: ללא

מעבר לכך, כאשר חברה פרטית משקיעה 10 מיליון דולר על משוואה אחת, חוקר אוניברסיטאי עם תקציב שנתי של כמה עשרות אלפי דולרים מבין שהוא לעולם לא יוכל להתחרות במכונה.

ההאשמות בהסתרת מידע ופרדוקס יאנג-מילס

הצהרותיו של אלטמן בדבר חובתה המוסרית של החברה לשחרר ידע לאנושות עומדות בסתירה חריפה לביקורת הגוברת מצד הקהילה המדעית, המאשימה את OpenAI ב"שמירת סף" וסודיות מסחרית.

הזעם התפרץ בעקבות הודעתה של OpenAI על שלוש פריצות דרך משמעותיות בתחומי המתמטיקה, הפיזיקה ומדעי המחשב - ובראשן התקדמות דרמטית סביב תורת יאנג-מילס, המהווה את התשתית המתמטית לפיזיקת החלקיקים המודרנית.

סם אלטמן: "ל-AI יש את היכולת לשפר כל אספקט בחיינו, אבל ישנן סכנות" // קרדיט: רויטרס

למרות ההכרזה המרעישה, OpenAI סירבה לחשוף את פרטי ההוכחה המלאים לציבור הרחב. בחברה טענו כי ההחלטה התקבלה בהמלצת פאנל מומחים מיוחד שייעץ כיצד לפרסם את הממצאים באופן אחראי - צעד שעומד בניגוד מוחלט להמלצותיהם של מתמטיקאים חיצוניים, שדורשים שקיפות מלאה ללא סינונים תאגידיים.

המתמטיקאים וקהילת המדע, שקיוו להפוגה בקצב ההכרזות כדי לעכל את ההתפתחויות, צפויים להתאכזב. עם מאגר תגליות נעול במגירה ותקציבי עתק שממשיכים לזרום לחוות השרתים, נראה כי מתקפת ה-AI על מדעי היסוד רק בתחילתה.

טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו

כדאי להכיר