הצהרות דרמטיות מצד מפתחי בינה מלאכותית הן כבר לא עניין חדש, אבל נאום חריג כזה, ששוגר דווקא מלב הוותיקן, עוד לא נשמע. כריסטופר אולה, מהדמויות המשפיעות ביותר בעולם ה-AI ומייסד שותף בחברת אנתרופיק (המפתחת של המודל הפופולרי קלוד), התייצב היום (שני) לצד האפיפיור ליאו ה-14 ובכירים מהכנסייה, והטיל פצצה בשידור חי.
במהלך השקת האנציקליקה (מנשר דתי) "Magnifica Humanitas" ("האנושיות הנשגבת") הראשונה של האפיפיור בנושא בינה מלאכותית, אולה יצא בקריאה נואשת וחסרת תקדים להפקעת השליטה הבלעדית על הטכנולוגיה מידיהן של ענקיות הטכנולוגיה. המסמך נחתם ב-15 במאי - תאריך סמלי המציין 135 שנים לפרסום האנציקליקה "Rerum Novarum" של האפיפיור ליאו ה-13, אשר עסקה בזכויות עובדים במהלך המהפכה התעשייתית.
"כל מעבדת AI בחזית הטכנולוגיה פועלת כיום בתוך מערכת של תמריצים ומגבלות, שלעיתים קרובות נמצאים בניגוד מוחלט לעשיית הדבר הנכון", הודה אולה בגילוי לב נדיר שהביך את בכירי התעשייה בסן פרנסיסקו. לדבריו, חברות כמו אנתרופיק, OpenAI וגוגל נמצאות תחת לחצים מסחריים, אישיים וגיאו-פוליטיים אדירים, שמשפיעים על החוקרים ומאלצים אותם להמשיך לרוץ קדימה במרוץ חימוש טכנולוגי מסוכן, גם אם הדבר מנוגד לטובת החברה האנושית.
אולה הדגיש כי זהו בדיוק המצב שהופך פיקוח ובקרה חיצוניים של גורמים ממשלתיים ודתיים להכרח קריטי ומיידי.
אחת הנקודות המבהילות ביותר בנאומו נגעה לעתיד העובדים האנושיים. הוא הבהיר כי קיימת "אפשרות אמיתית לחלוטין" שהבינה המלאכותית תוביל להחלפת כוח עבודה אנושי בהיקפים מפלצתיים שעוד לא נראו כמותם בהיסטוריה. "אם זה יקרה, התמיכה באותם אנשים שייפלטו משוק העבודה תהפוך לצו מוסרי בעל פרופורציות היסטוריות", הדגיש בפני האפיפיור.
במהלך האירוע, הזהיר האפיפיור האמריקני הראשון מפני מערכות נשק אוטונומיות אשר נמצאות "באופן מעשי מעבר לכל יכולת השגה אנושית" לפיקוחוכן הוסיף כי הכנסייה הקתולית מעוניינת לעבוד יחד עם מפתחי בינה מלאכותית כדי לדון בשימוש הנכון בה. "קולות מטרידים מאוד הגיעו אליי גם הם בנוגע למערכות נשק אוטונומיות יותר ויותר, אשר נמצאות באופן מעשי מעבר לכל יכולת השגה אנושית כדי למשול ולפקח עליהן בצורה אפקטיבית", אמר.
מעבר לכך, הוא סימן בעיה עמוקה אחרת שמוגדרת כיום כתעלומה בלתי פתורה בענף: העובדה שמדינות עשירות מחזיקות בכל היתרונות הטכנולוגיים, בעוד שאין שום מנגנון שמאפשר לחלוק את העושר והפיתוחים הללו עם האוכלוסיות העניות ברחבי הגלובוס.
אולה סיכם את דבריו באזהרה מצמררת שמהדהדת ברחבי הרשת: "במהלך הפיתוח, אנחנו ממשיכים למצוא דברים שהם פשוט מסתוריים, ואפילו מטרידים ומערערים". השילוב בין התעלומות המדעיות בתוך המודלים לבין הלחץ הכלכלי להרוויח כסף מהר, יוצר לדבריו פצצה מתקתקת, ומחייב את הציבור להבין שההחלטות על עתיד הבינה המלאכותית והשימוש בה בשום אופן לא יכולות להישאר רק בידיהם של האנשים שמנהלים ומממנים את התעשייה הזו.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו