מירוץ שיצא משליטה: מי אוחז בהגה?

אנחנו חיים בזמנים של שינויים גדולים ושאלות גדולות. הכול זז בקצבים גבוהים, לפעמים מפחידים: הפוליטיקה העולמית והמקומית, הפילוג בתוך התרבות שלנו, ואולי יותר מהכול - הטכנולוגיה. לפעמים נדמה שהעתיד מגיע לפני שהספקנו להתרגל להווה. בעיניי, AI היא כבר הטכנולוגיה המשמעותית ביותר שהמצאנו, והיא עומדת להפוך למשמעותית הרבה יותר. זהו הניסיון שלנו ליצור באופן מלאכותי את הדבר שהכי מייחד אותנו, שבזכותו המצאנו את כל השאר: אינטליגנציה.

ההבטחה היא רווחה אדירה לכולם, פריצות דרך ברפואה ובמדע ופתרונות לבעיות שמלוות אותנו דורות. אבל הסכנות אדירות וקשה לדעת מתי ההתקדמות תיקח אותנו רחוק מדי.

מי ירוויח מרגולציה?

היום קל לחשוב על AI כעל חבר חכם ובעל יכולות שתמיד נמצא שם. אבל אחד התרחישים שמדאיגים חוקרים הוא ״התפוצצות אינטליגנציה״: מתישהו AI יהיה חכם מספיק כדי לשפר את עצמו לבד ומהנקודה הזו הוא יתחיל להשתפר בקצב ובמהירות שלא נוכל יותר לתפוס. חכם בצורה שלא יהיו לנו כלים להבין, ומחובר לכל מערכת שאי פעם בנינו. האזהרות מגיעות גם מתוך התעשייה. ג׳ייקוב קוקסון, חוקר שעבד ב־OpenAI ובאנתרופיק והתפטר, הזהיר שקצב ההתקדמות מסכן את העתיד של כולנו.

אז איפה באמת חברות ה-AI בסיפור הזה? אנתרופיק הביעה תמיכה בתיאום קצב שחרור המודלים החזקים. גם סם אלטמן ו-OpenAI דוחפים לרגולציות בנושא. אבל עולה שאלה לגבי מקור המוטיבציה שלהן, שכן רגולציה בשוק תשרת אותן יותר מכולם, כיוון שהיא תאט שחקנים אחרים מלהגיע לקדמה טכנולוגית שנכון לעכשיו הן מחזיקות בה.

האמת היא ששני דברים יכולים להיות נכונים בו־זמנית: אולי אם הייתה להן אפשרות להרים מתג ולעצור הכל, הן היו עושות את זה. אבל כשחקניות בודדות בשוק, הן מונעות מכוחות של תחרות וקדמה. אפשר להאמין שהכיוון מסוכן, ובאותה נשימה להאמין שאם מישהו כבר מוביל לשם, עדיף שזה יהיה אתה. הכוונות של כל שחקן בנפרד לא מספיקות כדי לשנות את הכיוון הכולל - וכאן מרכז הסכנה.

קל לראות את עצמנו כמו איקרוס, מנופפים בכנפיים שבנינו אל עבר עתיד מעניין ומסוכן. אבל לאיקרוס הייתה בחירה: הוא היה איש אחד והוא רק היה צריך להנמיך את המעוף. במקרה שלנו מיהו אותו בוחר? סם אלטמן? ומה עם שאר החברות? נשיא ארה"ב? ומה אם סין תמשיך להתקדם? גם מי שרוצה להאט חושש להשאיר את ההובלה לאחרים.

שינוי זניח בלו"ז

וגם אם רגולציה תאט את הקדמה במעט, בתמונה הגדולה הכיוון לא ישתנה. עבור OpenAI ואנתרופיק, כמה שנים ללא מתחרים אמריקנים חדשים יכולות להיות ההבדל בין שמירה על ההובלה לאובדן היתרון. עבור האנושות, בתמונה הגדולה, מדובר בשינוי זניח של לוח הזמנים, לא של היעד. עצירה של ממש תדרוש תיאום רחב ומתמשך בין חברות, מדינות ושחקנים שמונעים מכוחות שוק אדירים לעשות בדיוק ההפך. היד הנעלמה של השוק כבר מושכת לכיוון מאוד ספציפי של קדמה, שיהיה על גבול הבלתי אפשרי לעצור.

זו המשמעות של התקופה שאנחנו חיים בה: אנחנו מסוגלים להמציא כוח שישנה את העולם, בלי שתהיה לנו יכולת משותפת להחליט באיזה קצב נתקדם איתו. גם כמה שנות עיכוב לא מוציאות את השינוי הזה מתקופת החיים שלנו.

מכל ההמצאות שהמין האנושי המציא, AI עשויה להיות הדבר הטוב ביותר שקרה לנו, או הגרוע ביותר. אנחנו ממשיכים להתקדם איתה בלי לדעת לאיזה משני העתידים האלה אנחנו מתקרבים. ונראה שבין אם נרצה ובין אם לא, לא תהיה לנו ברירה אלא לגלות ביחד.

הכותב הוא מייסד שותף ומנכ"ל חברת Brandlight.