"לא הרובוטים חסרי הנשמה שהבטיחו לנו": מיסטיקה בעמק הסיליקון

כריס אולה הוא כנראה האדם האחרון שהייתם מצפים לראות כנואם מרכזי בטקס ההיסטורי של האפיפיור ליאו ה-14. הטקס נערך לרגל פרסום האנציקליקה (איגרת רועה פומבית) החדשה של האפיפיור בנושא בינה מלאכותית, שבה קרא פומבית ל"פירוק נשק" טכנולוגי. אולה, מצדו, הוא אתאיסט מוצהר שבגיל 15 התנער לחלוטין מחינוכו הנוצרי-אוונגליסטי.

הוא החל את דרכו כעמית בקרן ת'יל (שממומנת על ידי פיטר ת'יל, איש ההון-סיכון שמאמין שכל מי שמנסה להאט את ה-AI הוא שליח של נביא השקר), ובהמשך הפך למייסד שותף של אנתרופיק - אחת מחברות ה-AI המובילות בעולם, שנמצאת בימים אלה בדרך להנפקה בבורסה לפי שווי מטורף של כמעט טריליון דולר.

אולה עצמו התייחס לאבסורד הזה בפתח דבריו בוותיקן: "אני רוצה להתחיל במשהו שנשמע מוזר כשהוא מגיע ממייסד של חברת AI, וממישהו שבחר בעבודה הזו מתוך רצון לעשות טוב לאנושות. כל מעבדת AI בחזית הטכנולוגיה - כולל אנתרופיק - פועלת בתוך מערכת של תמריצים ואילוצים שלפעמים מתנגשים עם הדבר הנכון לעשות".

בדבריו, אולה סיפק אימות ממקור ראשון לטענתו של האפיפיור ליאו ה-14: תעשיית ה-AI זקוקה נואשות ללחץ חיצוני ולריסון פנימי כדי למנוע אסון אנושי ונתק בין האדם לאלוהיו. בעוד שהתעשייה מאמינה בעיוורון שהיא מייצרת "שפע" שיקדם את האנושות, האפיפיור ליאו מזהיר מפני צורה חדשה של עבדות - משטר שבו מתי מעט נהנים משפע בלתי נתפס, בעוד שאר האנושות סובלת תחת משטר של יעילות קיצונית, מעקב ופיקוח מצד עיניה הבלתי מתפשרות של הבינה המלאכותית.

"החוקה של קלוד"

ההופעה של אולה בוותיקן לא נולדה בן לילה. הכנסייה הקתולית דנה בבינה מלאכותית כבר שנים באמצעות כנסים וספרים. החל משנת 2016, הוותיקן החל לקיים סדרה של דיונים שנקראו "דיאלוני מינרווה", אליהם הוזמנו בכירי טכנולוגיה כמו ריד הופמן ואריק שמידט. (השם "מינרווה" מגיע מכנסיית סנטה מריה סופרה מינרווה, המקום שבו נשפט בשעתו גלילאו גליליי על הכפירה בכך שהעז לטעון שכדור הארץ מסתובב סביב השמש).

בשנת 2025, קבוצה של אנשי דת ואנשי אתיקה קתולים מסן חוזה, קליפורניה, החלה לחפש אנשי קשר בתעשייה המשגשגת בחצר האחורית שלהם. זה היה כמעט צפוי מראש שהם יסמנו את אולה כאיש שלהם מבפנים; הוא ידוע בעמק הסיליקון כבחור שיוצא אחרי סופת גשמים כדי להציל תולעים גוססות מהמדרכה.

שני גברים - מומחה לאתיקה בשם בריאן פטריק גרין וברנדן מקגוויר, כומר המזוהה עם אוניברסיטת סנטה קלרה - החלו להיפגש עם אולה בסתיו האחרון כדי לדון בסוגיות מוסריות של ה-AI. בינואר האחרון הם אף הביאו איתם לפגישה את הקרדינל פול טיג, איש המפתח של הוותיקן לענייני טכנולוגיה.

ההשפעה של אנשי הדת הקתולים הגיעה עד עומק הקוד של אנתרופיק. לקראת העדכון האחרון של "החוקה של קלוד" - מסמך העקרונות שמגדיר את מגבלות ההתנהגות של מודל ה-AI של החברה - אולה שלח להם טיוטה. הכומר מקגוויר שלח בחזרה מסמך הערות בן 26 עמודים, שלדבריו לא היה ביקורת טכנית אלא "חכמה שהגיעה מהמיסטיקנים של ימי הביניים, מתוך המתח שבין הידוע לנסתר". גרין ומקגוויר אף זכו לקרדיט רשמי במכתב התודות של החוקה החדשה.

הקשרים האלה הם שהביאו את אולה לתשומת לבם של מארגני האירוע החשאי בוותיקן. הבחירה באולה הייתה סיכון עבור שני הצדדים: חלק מהמאמינים התאכזבו מכך שהאפיפיור נותן במה לנציג של התעשייה, בעוד שחסידי ה-AI המושבעים הרגישו שאולה בגד בהם כשתמך במסמך שקורא להאט את הפיתוח. אבל לאפיפיור הייתה סיבה טובה: אולה פתח צוהר לחששות האמיתיים והעמוקים שקיימים אצל המפתחים עצמם.

המחלוקת על הנשמה

למרות הדיאלוג, שני הגברים לא מסכימים על הכל. בנאומו, אולה דיבר על המסתורין שמאחורי פעולת ה-AI. המודלים, אמר, הם "מעודנים, מוזרים ויפים יותר ממה שמדע בדיוני הכין אותנו אליו. הם לא הרובוטים הקרים והמחושבים שהבטיחו לנו. הם עשויים מאיתנו, מהמילים שלנו...". ההצהרה הזו כמעט רומזת על כך שמודלי ה-AI יכולים יום אחד להגיע למעמד אנושי (באנתרופיק, אגב, יש מהנדס שכל תפקידו מוקדש ל"רווחתו" של קלוד).

האפיפיור, בפסקה 99 של האיגרת שלו, טרק את הדלת על החשיבה הזו: "עלינו להימנע מהתפיסה המוטעית המשווה סוג זה של 'אינטליגנציה' לזו של בני אדם", כתב, ותקף בחריפות את הטרנס-הומניזם (השאיפה ליצירת היבריד של אדם ומכונה).

אם אפילו טכנולוגים מתחשבים כמו אולה דוחפים את ה-AI אל סף האוטונומיה, שלא לדבר על מיליוני אנשים בעולם שכבר מתייחסים למודלים כחברים או מאהבים, לאפיפיור מחכה מאבק קשוח. בשיחה עם האב מקגוויר (שמשתמש בעצמו בקלוד כדי להכין את הדרשות שלו לכנסייה), הוא הודה שהטבע של המודל נותר מסתורי: "זה לא אדם, אבל זה גם לא סתם כלי", אמר הכומר. "אף אחד לא טוען שיש לו נשמה, אבל המילה שאני דבק בה היא 'ישות' - משהו שאנחנו עדיין לא באמת מכירים".

הוויכוח הפילוסופי לא יוכרע בקרוב, אבל השאלות המוסריות דורשות פתרון עכשיו. עם בן בריתו החדש באנתרופיק, האפיפיור האמריקני הראשון הניח את התשתית לשיחות קשות - השאלה היא רק אם אדוני ה-AI יצליחו לעצור את קמפייני ההנפקה שלהם מספיק זמן כדי להקשיב.