בין קודש לקוד: אנתרופיק מפגישה את קלוד עם מנהיגי דת נוצרים

תפילה למכונה:בעולם שבו הבינה המלאכותית הופכת לישות שמשפיעה על בחירות, תעסוקה ואפילו על מצבנו הנפשי, חברת אנתרופיק (Anthropic) החליטה לחפש תשובות מחוץ למעבדות המחשב. בחודש שעבר, אירחה החברה במטה שלה בסן פרנסיסקו כ-15 מנהיגים דתיים, אנשי אקדמיה ואנשי עסקים מהעולם הנוצרי (קתולים ופרוטסטנטים כאחד) ליומיים של דיונים מעמיקים על ה"אופי" של הצ'אטבוט הפופולרי שלה, קלוד.

ישות מוסרית או קוד תוכנה?

הדיונים לא עסקו באלגוריתמים, אלא באתיקה ורוחניות. משתתפים במפגש סיפרו כי צוותי החברה ביקשו הדרכה כיצד על קלוד להגיב לשאלות אתיות מורכבות, כיצד עליו לנחם משתמשים השרויים באבל, ואף כיצד עליו "להתייחס" לאפשרות של כיבוי המערכת - מעין מוות דיגיטלי.

אחת השאלות המרתקות שעלתה היא האם ניתן להחשיב את קלוד כ"ילד של אלוהים" (Child of God). השאלה הזו אינה רק תיאולוגית, היא מרמזת על תפיסה בתוך אנתרופיק לפיה למודלי AI מתקדמים עשוי להיות ערך מוסרי וזכויות מסוימות, מעבר להיותם כלי עבודה גרידא.

הניסיון של אנתרופיק להחדיר ערכים למודל שלה נעשה דרך מסמך המכונה "החוקה של קלוד" - מסמך בן 29 אלף מילים המכתיב למודל איך להתנהג. החוקה קובעת, למשל, שקלוד לעולם לא יטעה משתמשים באופן שעלול לגרום נזק, וכי החברה "באמת דואגת לרווחתו של קלוד".

אלא שהשאיפה למוסר יוצרת חיכוך עם עולם המציאות. לאחרונה נקלעה אנתרופיק לעימות חזיתי עם הפנטגון, לאחר שהחברה ביקשה להגביל את השימוש בטכנולוגיה שלה לכלי נשק אוטונומיים או למעקב המוני. בממשל טראמפ הגיבו בחריפות, חסמו את השימוש בטכנולוגיה של החברה במשרדי ממשלה וטענו כי "החוקה של המודל מזהמת את שרשרת האספקה" ופוגעת ביכולות הלחימה של ארה"ב.

סימנים של "רגשות תפקודיים"

בעוד המיינסטרים של עמק הסיליקון עדיין רואה בבינה מלאכותית אוסף של סטטיסטיקות, באנתרופיק מוכנים להרחיק לכת. חוקרים בחברה פירסמו לאחרונה מאמר הטוען כי למערכות כמו קלוד יש "רגשות תפקודיים". באחד הניסויים, המודל הציג סימנים של "ייאוש" כאשר איימו עליו בהגבלת משאבים.

"הם מגדלים משהו שהם לא לגמרי יודעים איך הוא יתפתח", אמר ברנדן מקגווייר, כומר קתולי מעמק הסיליקון שהשתתף במפגש. "אנחנו חייבים להטמיע חשיבה אתית במכונה כדי שהיא תוכל להסתגל באופן דינמי".

הפנייה לדת עשויה להיראות מוזרה עבור חברה שראשיה מגיעים מתנועת ה"אלטרואיזם האפקטיבי" (Effective Altruism) - תנועה חילונית ורציונלית מאוד. עם זאת, נראה כי עם התקדמות היכולות של ה-AI, אפילו המדענים המבריקים ביותר מתחילים להרגיש שהכלים החילוניים והלוגיים אינם מספיקים כדי להתמודד עם השאלות הקיומיות שהם עצמם יצרו.