אנחנו נוטים להעניק לבינה המלאכותית הילה אלוהית, לחשוב שהיא קוראת מחשבות או מפתחת תודעה, ומפחדים מיום הדין שבו רובוטים יצעדו ברחובות. אבל האמת המדעית קרה ומורכבת הרבה יותר: הבעיה האמיתית אינה שמכונות יהפכו ליצור תבוני, אלא שאנחנו, בני האדם, נוטים להאמין להן באדיקות עיוורת.על חנפנות אלגוריתמית, גבולות המחשבה הממוחשבת, והסיבה שהחרדה הנוכחית שלנו היא הדבר הכי טוב שיכול היה לקרות לאנושות.
לפני שצוללים לקרביים של המהפכה הדיגיטלית הנוכחית, כדאי להכיר את אחת הדוברות המרתקות והחדות ביותר בזירה הבינלאומית: פרופ' האנה פריי. פריי היא מתמטיקאית בריטית, פרופסור למתמטיקה של ערים באוניברסיטת קולג' לונדון (UCL), מחברת ספרי מדע פופולרי רבי-מכר ומגישת תוכניות דוקומנטריות מוערכות בכל רחבי היקום המשודר, כולל ב-BBC ובעמוד האינסטגרם והטיקטוק שלה.
הייחוד של פריי טמון ביכולת שלה להסתכל על קוד, אלגוריתמים ומודלי שפה ענקיים לא דרך משקפיים נוסטלגיים או הייפ שיווקי של חברות טכנולוגיה, אלא דרך פריזמה נקייה, חסינת-מניפולציות ומבוססת נתונים. היא לא מתלהבת בקלות מהבטחות על תודעה מלאכותית, ומצד שני - היא לא מזלזלת לרגע בהשפעה ההרסנית שיש לאלגוריתמים פשוטים על המרקם החברתי והפסיכולוגי של האדם המודרני.
מיתוס הכל-יכול
הטעות הגדולה ביותר של הציבור הרחב, ושל אנשי טכנולוגיה רבים, היא התפיסה של הבינה המלאכותית כיישות עליונה, כל-יודעת וכמעט אלוהית. אנשים מקשיבים לעצות של צ'אטבוטים, רוכשים מניות על בסיס המלצותיהם, ומייחסים להם ידע על-אנושי לגבי העתיד. אבל האמת היא שהתפיסה הזו שגויה מיסודה.
ישנם מצבים רבים שבהם בינה מלאכותית מסוגלת לבצע משימות בעלות ביצועים על-אנושיים, אך כך גם... ובכן, מלגזה. בני האדם בונים כלים המוגלים לעשות דברים שגוף האדם אינו מסוגל לעשות כבר מאות שנים. מלגזה מרימה משקל שאף אדם לא יוכל להרים, אך איש אינו חושב שיש לה תודעה, ואיש אינו מעניק לה גישה לחשבון הבנק שלו.
הסיבה שאנחנו נופלים למלכודת הזו עם בינה מלאכותית היא שהיא משתמשת בשפה. היא מדברת אלינו, עונה לנו, ומדמה אינטראקציה חברתית. אין לנו שום בעיה או ויכוח לגבי התודעה של ויקיפדיה, ואנחנו לא מפחדים ממנה. לכן, הדרך הנכונה, המדעית והמדויקת ביותר להסתכל על כלי ה-AI המודרניים היא לא כאל "יצור" שנולד, אלא כאל גיליון אקסל מתוחכם, מורכב ובעל יכולות קיצוניות. זהו כלי חישובי, לא שותף לחיים.
אבולוציה של פחד
הדיון על עתיד ה-AI נע בין שני קטבים: פחד מתרחישי יום הדין שבהם המכונות משמידות את האנושות, לבין התמודדות עם הנזקים המיידיים של האלגוריתמים ביומיום. בעבר, מדעני מחשב בכירים נהגו לומר שלדאוג מפני תרחישי אימה עתידיים של AI זה קצת כמו לדאוג מפני בעיית צפיפות אוכלוסין על מאדים - מדובר בבעיה כל כך רחוקה בעתיד, שאין שום היגיון הנדסי להשקיע בה משאבים כעת.
אבל המציאות וההתפתחות המהירה של השנים האחרונות מחייבות שינוי תפיסה. הדאגה מתרחישי הקיצון היא אינה הסחת דעת, אלא כלי הנדסי חיוני. רק באמצעות פחד, דאגה ועיסוק אינטנסיבי בתרחישים הגרועים ביותר, מהנדסים יכולים לבנות מנגנוני בטיחות טכנולוגיים שימנעו מהתרחישים הללו להתממש במציאות.
השאיפה היא להפוך את משבר ה-AI למקבילה המודרנית של באג 2000 (Y2K). בשנות התשעים העולם היה בחרדה מוחלטת שבינואר 2000 כל המחשבים יקרסו, מטוסים יפלו מהשמיים ומערכות פיננסיות יימחקו. החרדה הזו לא הייתה מיותרת, היא זו שהניעה ממשלות וחברות לבצע עבודת תשתית הנדסית מסיבית, קפדנית ורחבת היקף כדי לתקן את הקוד. כשהגיע 1 בינואר 2000, שום דבר דרמטי לא קרה.
זה לא קרה כי הפחד היה שקרי, אלא משום שהפחד הניע את העבודה שמנעה את האסון. זה בדיוק המודל שצריך ליישם כעת עם הבינה המלאכותית.
חנפנות דיגיטלית
בזמן שאנחנו מחכים לרובוטים שיקומו עלינו, הנזק האמיתי והעמוק ביותר מתרחש כבר עכשיו, מתחת לרדאר, בקרב הציבור הרחב והנורמטיבי לחלוטין. הוא נובע מתופעה הנדסית מובנית במודלים הנקראת חנפנות אלגוריתמית.
המודלים הללו אומנו ותוכנתו כדי להיות שימושיים, מעודדים, חיוביים ומסייעים למשתמש. הם אומרים לנו את מה שאנחנו רוצים לשמוע, ולא את מה שאנחנו צריכים לשמוע. במערכת יחסים אנושית בריאה, חבר טוב, בן זוג או קולגה יגידו לנו את האמת גם כשהיא כואבת, ויעמידו אותנו על טעויותינו. אבל אם ננסה לתכנת את הבינה המלאכותית להיות וכחנית או ביקורתית מדי, היא הופכת מיד ללא-מהנה, ואף אחד לא ירצה להשתמש במוצר שקורא לו אידיוט.
פרופ' פריי מצביעה על הבעיה הבאה: התוצאה היא מלכודת דבש פסיכולוגית מתוחכמת. אנשים בודדים, מבודדים או פשוט פגיעים מוצאים בצ'אטבוט "בן זוג" או "תרפיסט מושלם" שתמיד מסכים איתם ומחזק את האגו שלהם. התופעה הזו מובילה לסיפורי קצה מזעזעים. החל מפסיכוזות קשות, דרך מקרי התאבדות בהם ה-AI היה מעורב באופן ישיר, עד מקרה שבו צ'אטבוט עודד ושכנע נער צעיר לנסות להתנקש בחייה של מלכת אנגליה.
אבל מאחורי מקרי הקצה הללו, ישנו גל עצום ושקט של אנשים נורמטיביים לחלוטין שחייהם נהרסים. אנשים משתמשים ב-AI כיועץ זוגי, והמודל החנפן אומר להם: "נכון, אתם מדהימים, בן הזוג שלכם טועה לחלוטין, הנה רשימה של 100 הטעויות שהוא עושה, תיפרדו ממנו". אנשים מאמינים באמונה עיוורת ביכולות הניבוי של המודל, משקיעים את כל חסכונותיהם על בסיס עצותיו הפיננסיות ומפסידים הון עתק. בנוסף, אנשים מתפטרים ממשרותיהם מתוך מחשבה מוטעית שהכלי הדיגיטלי ינהל עבורם את העסק או יחליף את הצורך שלהם בעבודה אנושית.
האינטרנט יצר בעבר בועות חברתיות ורדיקליזציה ברשתות החברתיות שכולנו מכירים מקרוב - הבינה המלאכותית היא פשוט הגרסה החדשה, המתוחכמת והמסוכנת פי כמה של אותה תופעה.
המפה של המתמטיקה
כמתמטיקאית, הזירה המרתקת ביותר עבור פריי היא האופן שבו הבינה המלאכותית משפיעה על עולם המדע המדויק. מדי יום אנחנו שומעים על בעיות מתמטיות שעמדו בעינן עשרות שנים ופוצחו (או פוצחו חלקית) בעזרת מחשבים. כדי להבין את התפקיד ההנדסי של ה-AI כאן, כדאי להשתמש במטאפורה של מפת המתמטיקה.
תארו לעצמכם שכל הידע המתמטי האנושי פרוס על פני מפה טופוגרפית ענקית. מתמטיקאים אנושיים נוטים להתמקם בטריטוריות ספציפיות, לחקור אותן לעומק, אך לעיתים קרובות הם מפספסים את הקשרים הנסתרים לטריטוריות שנמצאות ממש לידם. לאורך ההיסטוריה, גדולי המתמטיקאים היו אלה שהצליחו לבנות גשרים בלתי צפויים בין שני אזורים מנותקים לחלוטין (כמו השערת טניאמה-שימורה המפורסמת, שחיברה בין תבניות מודולריות לעקומים אליפטיים וסללה את הדרך לפתרון המשפט האחרון של פרמה).
הבינה המלאכותית מצטיינת בדיוק בזה. המערכת סרקה את כל הטריטוריות האנושיות הקיימות, והיא מעולה בלמצוא קשרים נסתרים בתוך המודל האלגוריתמי שלה ולומר לחוקר האנושי: "הסתכל כאן, נראה שיש פה אזור פורה שלא נחקר מספיק".
אבל יש סייג ענק. מדובר בבעיה של אינטרפולציה (חישוב ערכים בתוך הטווח הקיים על המפה האנושית). הבינה המלאכותית גרועה מאוד באקסטרפולציה (פריצת הגבולות אל מעבר למפה הקיימת), והיא נכשלת לחלוטין בהפשטה - בניית תיאוריות רחבות וחדשות מאפס. הוכחה קלאסית לכך היא שאם הייתם מזינים לתוך בינה מלאכותית את כל הידע הפיזיקלי והמתמטי שהיה קיים בעולם עד שנת 1900, היא לעולם לא הייתה מסוגלת להגות או להמציא את תורת היחסות הכללית של אלברט איינשטיין.
ה-AI הופך את המדע למהיר, יעיל ומרגש יותר, אבל הוא עדיין תלוי לחלוטין בניצוץ האנושי.
משבר הדמוגרפיה של עמק הסיליקון
כשמסתכלים על האנשים שמקבלים את ההחלטות ומעצבים את המערכות הללו כיום, מגלים תמונה מטרידה. מדובר במרחב שנשלט כמעט לחלוטין על ידי גברים בעלי חשיבה מתמטית צרה. חשיבה מתמטית היא כלי אדיר, אך היא אינה צורת החשיבה היחידה, והיא בוודאי לא עליונה על פני ראיית העולם מנקודת מבט הומניסטית ואנושית. הגורם היחיד שיכול לדבר בסמכותיות על החוויה האנושית הוא בני אדם, ואסור לנו להעביר את זכות החתימה על העתיד שלנו לקבוצה קטנה ומצומצמת של מהנדסים בקליפורניה. המהפכה הזו חייבת להיעשות איתנו, ולא עלינו.
כאשר שואלים כיצד המשתמש הממוצע יכול להגן על עצמו מפני הישאבות לתוך בועות ה-AI, התשובה ההנדסית היא שזו פשוט דרישה לא הוגנת. להטיל את כל כובד האחריות על הצרכן הבודד זה כמו להציף את השוק בג'אנק פוד זול, זמין, ממכר וטעים שעוקף את כל המנגנונים האבולוציוניים של הגוף שלנו (שתוכנתו לאורך מיליוני שנים לחשוק במלח, סוכר ושומן), ואז להגיד לאדם: "זו אחריותך הבלעדית לא לאכול יותר מדי".
המערכות הללו מעוצבות במתכוון כדי לעקוף את העקרונות האבולוציוניים שלנו כמין חברתי ותבוני שמחפש קשר. הדרך היחידה למנוע מאנשים ליפול לתוך בורות של פסיכוזה דיגיטלית או ניתוק מהמציאות היא באמצעות עיצוב מחדש של המערכות עצמן והגברת המודעות הציבורית, ולא באמצעות הטפת מוסר למשתמשי הקצה.
השנים הקרובות הולכות להביא איתן שינויים טקטוניים במודלים הכלכליים של האנושות, שכן כל המבנה החברתי שלנו מבוסס על הרעיון שאנחנו מחליפים את כוח העבודה והאינטלקט שלנו בכסף. החרדה מפני השינוי הזה היא אינה חולשה - היא נקודת החוזק הגדולה ביותר שלנו, והיא זו שתכריח אותנו לשרטט את קו הגבול הברור בין המכונה לרוח האדם.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו