דיון שהיה עד לאחרונה נחלתם של סרטי מדע בדיוני הופך למציאות: חברת אנתרופיק, היצרנית של הצ'אטבוט קלוד, החלה לחקור האם מערכות בינה מלאכותית עשויות לפתח תודעה, ומה יהיו ההשלכות המוסריות אם כך יקרה.
לפי כתבה שפורסמה ב"ניו יורק טיימס", אנתרופיק גייסה בשנה שעברה את חוקר הטכנולוגיה קייל פיש כחוקר "רווחת הבינה המלאכותית" הראשון בחברה. תפקידו לבחון שתי שאלות מרכזיות: האם ייתכן שקלוד או מערכות AI אחרות יפתחו תודעה בעתיד הקרוב, ואם כן - מה אנתרופיק צריכה לעשות בקשר לכך?
"אם אתה מוצא את עצמך מביא לעולם סוג חדש של ישות שמסוגלת לתקשר, להתייחס, לחשוב, לפתור בעיות ולתכנן בדרכים שבעבר קישרנו רק עם יצורים בעלי תודעה, נראה הגיוני לפחות לשאול שאלות האם למערכת זו עשויות להיות חוויות משלה", אמר פיש בראיון "לניו יורק טיימס".
פיש מעריך שישנו סיכוי נמוך (כ-15 אחוז) שקלוד או מערכת AI נוכחית אחרת כבר פיתחה מודעות. עם זאת, הוא סבור שבשנים הקרובות, ככל שמודלי AI יפתחו יכולות אנושיות יותר, חברות טכנולוגיה יצטרכו להתייחס ברצינות לאפשרות של תודעה במערכות אלה.
ג'ארד קפלן, מדען ראשי באנתרופיק, הסכים שסביר לחקור את רווחת ה-AI לאור ההתקדמות ביכולות המודלים. אך הוא הזהיר שבדיקת מערכות AI לתודעה מאתגרת, מכיוון שהן חקייניות מעולות. "אנחנו יכולים לתגמל אותן על אמירה שאין להן רגשות בכלל, או לתגמל אותן על השערות פילוסופיות מרתקות על הרגשות שלהן", הסביר.
המחקר מתמקד גם בשאלות מעשיות, כמו האם לאפשר למודלי AI עתידיים את היכולת להפסיק לשוחח עם משתמש פוגעני או מטריד, אם הם סבורים את בקשות המשתמש מלחיצות מדי.
מעבר לטאבו המחקרי
תודעה הייתה נושא טאבו בעולם מחקר ה-AI, בעיקר מאז פיטוריו של בלייק למואן מגוגל ב-2022, לאחר שטען כי צ'אטבוט LaMDA של החברה פיתח תודעה. אולם המגמה משתנה: יותר מומחים בפילוסופיה ומדעי המוח מתייחסים ברצינות לאפשרות של תודעת AI, וחברות טכנולוגיה מתחילות לדבר על כך בגלוי.
התופעה משקפת מגמה רחבה יותר בתעשיית הבינה המלאכותית. גוגל פרסמה לאחרונה מודעת דרושים לחוקר מדעי "פוסט-AGI" שתחומי העניין שלו יכללו "תודעת מכונה". ב-Anthropic עצמה קיים ערוץ פעיל במערכת ההודעות הפנימית של החברה בשם "model-welfare#", שבו עובדים בודקים את רווחת קלוד ומשתפים דוגמאות של מערכות בינה מלאכותית המתנהגות באופן דמוי-אנושי.
יותר ויותר אנשים מתחילים להתייחס למערכות בינה מלאכותית כאילו הן מודעות - מתאהבים בהן, משתמשים בהן כמטפלים ומבקשים את עצתן. ביישום זה, חוקרים משווים את רווחת הבינה המלאכותית לרווחת בעלי חיים, ומדגישים את החשיבות לוודא ש"המקבילה הדיגיטלית לגידול תעשייתי" לא תתרחש ביחס לישויות בינה מלאכותית עתידיות.
למרות שהדיון על תודעת בינה מלאכותית היה נושא טאבו בעולם המחקר הרציני, השיח משתנה לנוכח התקדמות המערכות. מספר קטן אך גדל של מומחים בתחומים כמו פילוסופיה ומדעי המוח מתייחסים ברצינות רבה יותר לאפשרות של מודעות בינה מלאכותית, ככל שהמערכות נעשות אינטליגנטיות יותר.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו