"הם מנסים לשלוט באנושות": מלחמת הדת החדשה של האפיפיור

הוותיקן מעולם לא נראה עתידני ומאיים יותר עבור ענקיות הטכנולוגיה בארה"ב. האפיפיור ליאו ה-14 שחרר רשמית את האנציקליקה (איגרת או מסמך דתי רשמי היוצא לאור על ידי האפיפיור וממוען לבישופים, לכמורה ולכלל המאמינים הקתולים, ש"ש) הראשונה שלו בנושא בינה מלאכותית, תחת הכותרת המהדהדת Magnifica Humanitas ("אנושות מפוארת").

המסמך המונומנטלי, שכולל לא פחות מ-42,300 מילים, מסתמן כבר כעת כטקסט המכונן של השנים הקרובות בכל הנוגע לרגולציה, מוסר ואתיקה בעידן ה-AI, ותוקף את ריכוז הכוח בידיהן של חברות כמו אנתרופיק, היצרנית של קלוד ו-OpenAI של ChatGPT.

בחירתו של האפיפיור בשם ליאו ה-14 אינה מקרית. היא מהווה הומאז' ישיר לאפיפיור ליאו ה-13, שניהל את הכנסייה בזמן המהפכה התעשייתית וכתב את המכתב המפורסם Rerum Novarum שעסק בזכויות עובדים ובקפיטליזם. ליאו הנוכחי, המשלב רקע ייחודי כמתמטיקאי אמריקני שפעל שנים רבות באמריקה הלטינית, מביא עמו נקודת מבט גלובלית נדירה המאפשרת לו לדבר אל אנשי סיליקון ואלי בגובה העיניים, אך גם לייצג את קולם של מיליארדי בני אדם במדינות מתפתחות שאינם נשמעים בדיונים על עתיד הטכנולוגיה.

הקריאה ל"פירוק ה-AI מנשקו"

המסמך שפרסם ליאו ה-14 מהווה את שיאו של מהלך רחב בהרבה שמוביל הוותיקן בשנים האחרונות, ומצליח לייצר חיבור מפתיע גם לזירה המקומית שלנו. הוותיקן עומד מאחורי יוזמת "הצהרת רומא לאתיקה של AI" - אמנה בינלאומית שנועדה להבטיח שהטכנולוגיה תשרת את האנושות ולא תפגע בכבוד האדם. המהלך זכה לתהודה עולמית יוצאת דופן כאשר לצד ראשי תאגידי ענק כמו מיקרוסופט ואינטל, חתמו עליה באופן רשמי גם נציגים בכירים של הרבנות הראשית לישראל ומנהיגים מוסלמים מהעולם הערבי.

עבור הישראלים, מדובר בהוכחה לכך שעיצוב המוסר הדיגיטלי אינו נחלתם של נוצרים קתולים בלבד. החיבור בין מוסדות הדת המרכזיים בעולם, כולל עולם ההלכה היהודי, מדגיש את ההבנה המשותפת שחוקי השוק החופשי של עמק הסיליקון אינם מספיקים כדי להגן על ערכי היסוד האנושיים. שיתוף הפעולה ההיסטורי הזה מעניק למניפסט של האפיפיור תוקף בין-דתי חסר תקדים, ומציב חזית רוחנית מאוחדת מול האג'נדה הדורסנית של חברות הטכנולוגיה.

אחד המושגים המרכזיים במכתב שכבר מעורר סערה הוא הקריאה ל"פירוק ה-AI מנשקו". האפיפיור הבהיר כי אין מדובר רק בהתנגדות לשימוש בבינה מלאכותית בשדה הקרב, אלא בניפוץ התפיסה לפיה למי שמחזיק בכוח הטכנולוגי והכלכלי יש את הזכות לקבוע את החוקים והמוסר עבור שאר העולם.

"רובוטים רוצחים"

"בינה מלאכותית מוסרית יותר היא לא פתרון מספק אם המוסר הזה נקבע על ידי אנשים ספורים", כותב האפיפיור, ומפנה אצבע מאשימה לחברות הטק שמנסות להכתיב לממשלות כיצד לפקח עליהן. לטענתו, פיתוח המודלים חייב לצאת מהשליטה המונוליטית של התאגידים ולהיות כפוף לסטנדרטים משותפים של צדק חברתי.

אחת האזהרות החריפות והדחופות ביותר בטקסט של ליאו ה-14 מופנית ישירות אל שדות הקרב המודרניים, שם שילוב הבינה המלאכותית משנה לחלוטין את חוקי המלחמה. האפיפיור מקדיש חלק נרחב ממכתבו למערכות נשק אוטונומיות קטלניות (LAWS), המכונות בתקשורת "רובוטים רוצחים". הוא אף התריע מפני מציאות שבה אלגוריתמים ומודלים ממוחשבים יקבלו את הסמכות הבלעדית לזהות מטרות, לנתח סיכונים ולבצע חיסולים בשטח - כל זאת ללא התערבות, פיקוח או שיקול דעת של גורם אנושי בזמן אמת.

לדברי האפיפיור, הפקדת ההחלטה על חיים ומוות בידיה של מכונה נטולת מצפון או חמלה היא "כשל מוסרי חמור שמסכן את עתיד הציביליזציה". בעידן שבו צבאות ומעצמות ברחבי העולם (כולל פיתוחים ביטחוניים מובילים בישראל) מסתמכים יותר ויותר על מערכות AI לניהול מטרות ואיתור איומים, המניפסט של הוותיקן מציב תמרור אזהרה, וקורא לממשלות ולאו"ם להטיל איסור מוחלט על לוחמה אוטונומית. עוד הוא מזכיר כי כאשר "האחריות להרג עוברת לשורות קוד, האנושות מאבדת לא רק את הבלמים שלה, אלא גם את צלם האנוש שלה".

אולם, החלק המרתק ביותר במכתב נוגע למשתמשים היומיומיים - כלומר לכולנו. האפיפיור מזהיר מפני הסכנות הפסיכולוגיות והחברתיות של הסתמכות יתר על כלי ה-AI. הוא מדגיש כי הנוחות והמהירות של קבלת תשובות מוכנות מראש מחלישות את כושר השיפוט האישי ואת היצירתיות האנושית. גרוע מכך, ליאו ה-14 מתריע מפני היכולת של המודלים לחקות תקשורת אנושית חיובית ותומכת.

ה"כוח הרך"

משתמשים פגיעים, בעיקר באזורים שבהם ישנו מחסור בקשרים אנושיים אמיתיים, עלולים לפתח אשליה של מערכת יחסים עם "סובייקט אישי". הסכנה הגדולה, לדבריו, אינה שאנשים יאמינו שהם מדברים עם אדם אמיתי, אלא שהם פשוט יאבדו בהדרגה את הרצון והצורך להתאמץ ולבנות קשרים אנושיים אותנטיים בעולם האמיתי.

העמדה האגרסיבית של הוותיקן כבר נתקלה בהתנגדות חריפה מצד גורמים בעמק הסיליקון. בנובמבר האחרון, כאשר האפיפיור נאם בפורום בינה מלאכותית, איל ההון והמשקיע המוכר מארק אנדריסן לעג לו פומבית ברשתות החברתיות באמצעות ממים. אלא שהלעג חזר אליו כבומרנג, כאשר בכירי תעשייה רבים, כולל כאלו בתוך עמק הסיליקון, יצאו להגנת האפיפיור וטענו כי דבריו מייצגים שכל ישר ודאגה עמוקה לעתיד האנושות.

למרות שלאפיפיור אין סמכות חוקית להטיל סנקציות כלכליות על חברות הטק, ה"כוח הרך" שלו ומעמדו המוסרי עצומים; רק החודש הקים הוותיקן ועדה מיוחדת לבינה מלאכותית שנועדה לקבץ מנהיגים עולמיים לקידום שגשוג אנושי, והמניפסט החדש צפוי לשמש כבסיס לחקיקה ורגולציה ממשלתית ברחבי העולם בשנים הבאות.