אוטופיה נוצצת או חזון מעורר חרדה? המניפסט המפחיד של מארק צוקרברג

מארק צוקרברג פרסם מניפסט רחב יריעה בן 6,500 מילים העוסק בעתיד הבינה המלאכותית ובחזון של מטא ל"סופר-אינטליגנציה אישית". הטקסט, שחלקים ממנו צצו כבר במאמר עמדה ב"וול סטריט ג'ורנל" ובשיחות עם משקיעים, משרטט לכאורה עתיד אוטופי שבו לכל אדם תהיה גישה חופשית לעוצמת מחשוב שעד כה הייתה שמורה לתאגידי ענק. אלא שמתחת למעטה האופטימיות והניסיון להילחם בתרחישי האימה של נביאי הזעם בתעשייה, בולט ניתוק עמוק. צוקרברג מציע חזון טכנולוגי מרהיב, אך עושה זאת בדיוק בזמן שמשבר האמון הציבורי בענקיות הטכנולוגיה - ובמטא בפרט - נמצא בשפל חסר תקדים.

חזון האוטופיה מול המציאות בשטח

במניפסט שלו, צוקרברג מציג סדרה של דוגמאות מרהיבות ליכולות של הבינה המלאכותית האישית, אך מתעלם כמעט לחלוטין מאיך שהכלים הללו פועלים בפועל בעולם האמיתי.

1. מורה פרטי בעל תואר שלישי לכל תלמיד: צוקרברג מתאר עוזר לימודי אישי עם סבלנות אינסופית. במציאות, צ'אטבוטים כמו ChatGPT, ג'מיני וקלוד משמשים כיום מיליוני תלמידים בעיקר לעקיפת תהליך הלמידה ולכתיבת עבודות, בהיעדר מנגנוני סימון מים אמינים.

2. שוויון במערכת המשפט: החזון מציע "עורך דין סופר-אינטליגנטי" לכל אזרח כדי להשוות כוחות בבתי המשפט. בפועל, הצפת המערכת המשפטית בעורכי דין מבוססי AI עלולה ליצור גל חסר תקדים של תביעות סרק ולהקריס את הבירוקרטיה הקיימת.

3. תמחור דינמי לחישוב: מטא מתחייבת לגישה חופשית, לצד מנגנון מכרזים דינמי למכירת כוח מחשוב למרבה במחיר. אולם, הצגת תמחור משתנה לפי עומסים עבור כלי עבודה קריטיים היא מתכון בטוח לחוויית משתמש גרועה.

לצד הדיונים הפילוסופיים על עורכי דין ומורים פרטיים, המניפסט של צוקרברג כולל סדרה של צעדים אופרטיביים חריפים, המיועדים לחזק את מעמדה של מטא במרוץ מול המתחרות המובילות, תוך ניסיון לסגור את הפער הטכנולוגי ולרצות את וול סטריט.

בין השאר, מטא הכריזה על הקמת קרן עתק בשם The Future Is For Everyone Fund בהיקף שלמיליארד דולר. הקרן תזרים כספים ישירות לקהילות הסמוכות למרכזי הנתונים שלה - צעד המגיע על רקע גל מחאות גואה בארה"ב נגד זללני האנרגיה הללו (שרק לאחרונה הוביל להקפאת הקמתם בניו יורק לשנה). הצעד מגובה במספרי עתק: מטא מתכננת הוצאות הון (CapEx) של כ-145 מיליארד דולר השנה ועד 600 מיליארד דולר עד 2028.

החברה חוזרת לאסטרטגיית הקוד הפתוח ומשיקה את המודל Muse Glimmer, לצד הבטחה לשחרר בקרוב גרסה פתוחה של המודל המוביל שלה, Muse Spark 1.2. במקביל, צוקרברג יוצא בחריפות נגד הצעת ממשל טראמפ לעכב שחרור מודלים ב-30 ימים לצורכי לבחינה ממשלתית, וקורא במקום זאת לשיתוף פעולה אקטיבי בזמן אמת במהלך האימון עצמו.

בצעד יוצא דופן, צוקרברג הודיע על שינוי מבנה הממשל התאגידי במטא, במסגרתו תועבר הסמכות לאישור בטיחות של מודלים לידי דירקטוריון החברה. בנוסף, הוא יצא להגנת פרקטיקת ה-Distillation השנויה במחלוקת - שיטה המאפשרת לחברות "לתשאל" מודלים מתחרים כדי להעתיק את הידע שלהם. "אני לא מאמין שזה לטובתי, לטובת מטא או לטובת העולם שאהיה מקבל ההחלטות הבלעדי על אופן הפצת הסופר-אינטליגנציה. אנו זקוקים למנגנון פיקוח ברמה כלל-תעשייתית", כתב.

"מרבית מעבדות ה-AI האחרות ממוקדות בבניית בינה מלאכותית עבור חברות, ממשלות או מוסדות גדולים - כך שאם המעבדות האלו יובילו את השוק, מאזן הכוחות יטה לטובת המוסדות הגדולים על פני האדם הפרטי. המשימה של מטא מאז הקמתה הייתה לשים את הכוח בידי האנשים. אם האמונות והעקרונות שלנו הם שיובילו, מאזן הכוחות יטה לטובת הפרט והעתיד יהיה טוב יותר לכולם". 

מהלכים אלו מבהירים כי מאחורי החזון האוטופי עומד מאבק הישרדותי ומסחרי נוקשה. צוקרברג מבין כי כדי לנצח במרוץ ה-AI ולמנוע מבריחת משקיעים, מטא חייבת לשלב בין פיזור הבטחות לציבור הרחב, החדרת מודלים פתוחים לשוק, והורדת להבות הרגולציה וההתנגדות העממית בשטח.

פער האמון: כשהציבור כבר לא קונה הבטחות

הניסיון של צוקרברג להציג מוצר מסחרי עתידי של מטא כאילו היה תיאוריה פילוסופית על חופש ואיזון כוחות אינו מתרחש בחלל ריק. "ככל שכולם מקבלים כלים חזקים יותר, כל אדם הופך בעל יכולת גבוהה יותר לעצב את העתיד, ולא פחות. אנשים ומוסדות בעלי אינטרסים מנוגדים מרסנים ומאזנים זה את זה באופן טבעי כדי להוביל לתוצאות חיוביות. הדרך הטובה והריאלית ביותר לבנות עתיד חיובי של AI היא על ידי אספקת סופר-אינטליגנציה לכל אחד", כתב צוקרברג. הבעיה המרכזית היא שהציבור פשוט אינו מאמין לאנשים שמבטיחים את השמים והכוכבים.

סקרים עדכניים מראים כי 64% מהציבור בארה"ב סולדים באופן גורף מהרשתות החברתיות ורבים מאמינים שהרשתות החברתיות פגעו בדמוקרטיה ודורשים פיקוח הדוק יותר. רק לאחרונה ספגה מטא קנס עתק של 567 מיליון דולר בבית המשפט בשל הפרות ופגיעה בילדים ובבני נוער.

בנוסף, הטענה המרכזית כעת היא כי במקום לבנות אמון מחדש ולהכיר בנזקים ההיקפיים של טכנולוגיות עבר, צוקרברג בוחר להתעלם מהסיכונים.

השיעור שצוקרברג מסרב ללמוד מהמתחרים

בניגוד למתחרים כמו סם אלטמן של OpenAI או דאריו אמודיי, מנכ"ל יצרנית קלוד, המקפידים בדיאלוג הציבורי להדגיש את הסכנות, להציג מנגנוני בטיחות ולנסות לרכוש את אמון המשתמשים, צוקרברג בוחר בגישה של נאום מכירות חד-צדדי. חייב לזכור כי הימנעות מהכרה בסכנות הממשיות אינה מרגיעה את הציבור – היא רק מגבירה את החשש שמובילי הטכנולוגיה שוב עוצמים עיניים מול הנזק שבדרך.

התעלמות זו מתופעות הלוואי הלא-מתוכננות של האלגוריתמים עשויה להשיג את התוצאה ההפוכה: לחזק את החשדנות הציבורית ולהוביל לגל רגולציה נוקשה שיפגע בתעשייה כולה.