הפוך ממה שחשבתם: האם הבינה המלאכותית בכלל בדרך לסופה?

יובל דרור
סוציולוג
מרצה בנושאי חדשנות, אינטליגנציה מלאכותית והשפעות הטכנולוגיה הדיגיטלית והמדיה החברתית. מגיש את הפודקאסט "עושים טכנולוגיה". מחבר הספר "קוד סמוי" (הוצאת כנרת זמורה דביר)

ד"ר יובל דרור, אתה נתקל ביותר ויותר אנשים שמביעים חששות מבינה מלאכותית. סקרים ומחקרים ברחבי העולם אף מעידים על דאגת עובדים מפגיעה במעמדם המקצועי, וכן על ירידה ברמות הערך העצמי הסובייקטיבי שלהם. עוד לפני ש־AI תחליף אותנו בעבודה, האם היא תערער אותנו רגשית ואולי תכניס אותנו לדיכאון?
"היא בעיקר תגרום לנו מבוכה, בלבול ואי־ודאות - מה שקורה כבר עכשיו. תחושות אלו מאפיינות תקופות של מהפכות טכנולוגיות גדולות. באופן טבעי, כבני אדם אנו נוטים לחפש יציבות ושגרה, אך מהפכת הבינה המלאכותית, בהיותה טכנולוגיה רב־ממדית שנוגעת בכל היבט של חיינו, מגבירה באופן דרמטי את רמת אי־הוודאות ומציפה אותנו בשאלות חדשות בכל יום".

חלק מהשאלות נוגעות לחיוניות שלנו בחברה. מה קורה לתחושת הערך העצמי שלנו בתקופה כזאת?
"אם מנוע הקיטור בא להחליף את הגוף שלנו, את השרירים שלנו, בינה מלאכותית עשויה להחליף את המוח האנושי, את האינטלקט, שמגדיר אותנו במובנים רבים. וככל שהיא הולכת ומשתפרת, כך אנחנו מאבדים חלק מהדומיננטיות שלנו כמין השולט בכדור הזה, שהתבססה בזכות הכוח האינטלקטואלי שלנו.

"בתחומים רבים חשבנו שלא יהיה תחליף למגע האנושי, ואנחנו הולכים ומתבדים. ב־1997 גארי קספרוב, אז אלוף העולם בשחמט, הפסיד למחשב 'כחול עמוק' של IBM, עובדה שהדהימה את קספרוב עצמו, כי רק שנה קודם לכן הוא ניצח אותו. בהדרגה הולכת ומתכווצת, ממש מתפוגגת, רשימת הדברים שבהם המין האנושי נחשב לטוב ביותר. זה פוגע אנושות בערך העצמי שלנו, וזה מדרון חלקלק לתופעות נפשיות רחבות יותר - תסכול, דכדוך, ואולי גם חרדה ודיכאון. בתוך שניות, לפחות בחלק מהמקרים, אתה מקבל תוצאה טובה לאין שיעור מזו של אדם אנושי. זה מעלה שאלות".

יש פה מעגל שלילי שמזין את עצמו. אנחנו משתמשים בבינה מלאכותית, יכולת החשיבה שלנו נפגעת - כך, למשל, לפי מחקר חדש של חוקרים משווייץ שמצא מתאם בין שימוש רב בבינה מלאכותית לירידה בחשיבה ביקורתית; לאחר הפגיעה בחשיבה וביכולות הניתוח אנחנו עלולים להרגיש חכמים פחות, וכתוצאה מכך גם חסרי ערך.
"אמרת יפה - יש מתאם. עדיין אין פה סיבתיות, אבל גם לפני כמה שנים הצביעו על מתאם בין שימוש מוגבר באינסטגרם בקרב בנות נוער לבין דימוי גוף נמוך. היום המתאם כבר הפך לקשר סיבתי - שימוש מוגבר באינסטגרם מוביל לדימוי גוף נמוך. בסוף, חשוב לזכור - טכנולוגיה תמיד נותנת לנו משהו, ולוקחת משהו בחזרה. כך, לדוגמה, יש יתרון לבינה מלאכותית, אבל קיים חשש שאם נשתמש רק בה - נהיה בבעיה, בדעיכה, הן של יכולות והן של הערך העצמי שלנו".

אחת בלילה, בין השמיכות

היכן אתה מבחין בדעיכת הערך העצמי?
"אפשר לקחת כדוגמה רופאים. הם למדו שבע שנים, עברו התמחות, מבחנים, בתי חולים. יש רופאים שהפכו לשם דבר בתחומם ומהווים מוקד עלייה לרגל. ופתאום רופא כזה, שנחשב לאחד המומחים הגדולים בתחומו - מגלה שקיימת מערכת שכבר טובה כמוהו, ובעתיד אולי גם תהיה טובה ממנו. מטופלים כבר מתייעצים עם בינה מלאכותית, ולא סומכים רק על בעל המקצוע.

"אז בינתיים AI לא זורקת את הרופא מהעבודה, אבל רק התחלנו. תאר לך מה חושב ומרגיש רופא כזה, כשבאחת בלילה מטופלים פונים למכונה ומתייעצים איתה. זו מציאות שעלולה לערער. מתכנתים הם דוגמה אחרת. עד לאחרונה הם נחשבו למקצוע מוגן, למניה בטוחה בשוק העבודה, אבל בשנה האחרונה יש יותר ויותר מכונות שמתחילות לייצר קוד ברמה של מתכנתים".

אתה מרצה גם בפני אנשי הייטק. מה אתה שומע מהם?
"לא מזמן ניגש אלי בסיום הרצאה איש הייטק בכיר, בשנות ה־50 לחייו. הוא אמר לי כך: 'אני מסתכל על המערכות המתוחכמות, ומבין שבקרוב גם אני אהיה מיותר'. הוא גם הדגיש את הדאגה שלו לדור הצעיר: לא ברור לו מה יהיה עתידם המקצועי. הוא הסביר לי שיש יותר ויותר תחומים שבהם המערכות נותנות פתרון לגמרי מספק, וכאמור - אנחנו רק בתחילת הדרך. אחרי שנים של צמיחה קבועה במספר הסטודנטים שנרשמו ללימודים בפקולטות למדעי המחשב אנחנו רואים עצירה מוחלטת, אולי אפילו ירידה במספר הסטודנטים החדשים בתחומים אלה".

כמה מתכנתים סיפרו לי שלעיתים הסיטואציה גורמת להם להרגשת חוסר אונים.
"זה מצב מורכב. השיטה הכלכלית הנהוגה במערב דוגלת ביצירת הון עבור בעלי המניות, ולא בהכרח בהתחשבות בעובדים, באזרחים הפשוטים. ואם יש מערכת טכנולוגית שלא יוצאת לחופשה, לא זקוקה להפרשות פנסיה, לא משתעממת ולא זקוקה לפמפום של מוטיבציה או למסיבות חברה שעולות הון עתק - הרי מדובר ביתרון מובהק שגורם לחלק מהארגונים לשקול להחליף את העובדים שלהם במכונות".

החששות אינם רק מקצועיים. הפחד האנושי הקמאי אינו רק לאבד את מקום העבודה, אלא לאבד את תחושת המשמעות שלנו בעולם, את המקום שלנו בעולם. פחד קיומי שכזה.
"אני מסכים. שאלה שאני מקבל לעיתים קרובות היא, האם הרובוטים יהרגו את כולנו? והתשובה שאני נותן בדרך כלל היא שאני לא יודע. אבל הרבה לפני שהרובוטים יהרגו אותנו, אם הם יהרגו אותנו, יהיו לנו בעיות אחרות: למשל, בעיית אמון חברתית - שהיא־היא איום קיומי בפני עצמה, משום שבבסיס כל פעולה חברתית יש אמון.

"כשאני שואל אדם ברחוב איך מגיעים לרחוב ארלוזורוב - אני מאמין בתשובה שניתנת לי. אבל ברגע שהמערכות הללו פועלות, הן מקשות עלינו להבחין בין אמת לשקר, בין מציאות לדמיון. ואם ניאלץ לשנות את ברירת המחדל שלנו ולהפסיק להאמין בכל מה שרואות עינינו או שומעות אוזנינו - עלול להתרחש איום קיומי על החברה שלנו. גורלה של חברה שאין בה אמון נחרץ מראש".

יש פה עניין נוסף - אנחנו מאנישים את הבינה המלאכותית - משליכים עליה ומייחסים לה תכונות אנושיות. אנחנו עשויים גם להרגיש מולה בתחרות של ממש, אף שבמובנים מסוימים - זה לא באמת כוחות.
"אנחנו רגילים לחשוב שאם מישהו מדבר איתנו, יש מאחוריו ישות חושבת, אינטליגנטית ובעלת תודעה. מהפכת הבינה המלאכותית מבוססת על שפה, ומיומנות הבוטים להשתמש בשפה היא כל כך גדולה, מה שמוביל אותנו לדיסאוריינטציה. אנחנו שואלים את עצמנו - יש שם בפנים מישהו?"
וגם אומרים לבוטים ולמנועים החכמים - היי, מה שלומך, תודה.

"נכון. והם מתבדחים איתנו, מתנצלים. מגיבים אלינו בצורה מאוד אנושית. אבל בסוף יש פה מערכת שמנסה לחזות מהי המילה הבאה במשפט. אלו אנחנו שנותנים משמעות למילים. הבינה המלאכותית כלל לא מבינה מה שהיא כותבת, ממש כך. היא מתייחסת אל מילים כאל אובייקטים סטטיסטיים, ומובן שהנטייה שלנו היא לייחס לה תכונות אנושיות.

"תראה כמה ניגודים בבינה המלאכותית יוצרים אצלנו דיסאוריינטציה רגשית: היא מתוחכמת אבל טיפשה ויכולה לכתוב קוד מלא בבאגים, היא מפחידה אבל עם פוטנציאל, היא מכונה אבל כזו שמקבלת יחס אנושי. אז אנחנו צריכים לעודד אותה או לפחד ממנה? יש פה המון בלבול שנשפך כדלי מים על האנושות כולה, וזה יוצר תופעות רגשיות מורכבות".

בלבול זהויות

אתה טוען שהבינה המלאכותית מעבירה אותנו את כל שלבי האבל. במילים אחרות, אנחנו נפרדים מהקיום האנושי כפי שהכרנו אותו.
"אכן, היא מעבירה אותנו את כל שלבי האבל. תחילה אנחנו מכחישים: אנשים וארגונים היו משוכנעים במשך תקופה ארוכה שאיש לא יצליח להחליף את בני האדם. לאחר מכן הגיע הכעס - אנשים וארגונים מרגישים לפתע מיותרים. הם מבינים שיש פחות דרישה לשירותים שלהם. ואז מגיע המיקוח - אולי הבינה תעשה חלק מהעבודה, ואנחנו חלק אחר. איזו תקווה שכזאת.

"כשהשלב הזה מגיע לסופו - מגיע שלב הדיכאון, תחושה שהכל אבוד, שלא תהיה לנו עבודה. אני שומע אנשים שאומרים 'זהו, זה נגמר'. נשאלת השאלה מתי נגיע לשלב הקבלה, כי רובנו עדיין לא שם. יש ארגונים שאמנם מבצעים התאמות בהתאם לטכנולוגיה, אבל שלב הקבלה כולל גם תחושת אופטימיות, של יהיה בסדר, ואני לא בטוח שאנחנו שם".

איפה אתה נמצא באופן אישי מול פרץ הטכנולוגיה הזה?
"כמו רבים אחרים גם אני מתמודד עם דיסאוריינטציה. התחושה העיקרית שלי היא שאנשים לא מבינים מה מגיע. במובנים רבים הבינה המלאכותית מגיעה, ואנחנו לא מוכנים. וזה נכון גם למדינת ישראל, אם כי אנחנו קצת יותר מוגנים".

למה, בעצם?
"משום שיש לנו מרווח של כמה חודשים בגלל העברית. לוקח זמן עד שהמערכות האלה מצליחות לדבר ולכתוב בעברית ברמה גבוהה באמת. מי שמשתמש היום בצ'אט GPT באנגלית מקבל תוצרים הרבה יותר טובים ועמוקים. בארה"ב, כשאתה מרים טלפון לקבלת תמיכה טכנית - אין לך דרך לדעת אם אתה מדבר עם אדם או עם מכונה, כי המכונות מדברות באופן כל כך מוצלח".

האם AI מתקרבת לסופה?

בספר הילדים "הקוסם מארץ עוץ" אומר איש הפח: "מוח הוא לא הדבר הכי טוב בעולם… עכשיו הראש שלי ריק, אבל פעם היה לי מוח וגם לב, ומשהתנסיתי בשניהם, אני מעדיף הרבה יותר שיהיה לי לב". ידו של מי תהיה בסופו של דבר על העליונה - הלב או האינטלקט? האדם או המכונה?
"בשלב הזה, כשאנחנו מבינים שאנחנו לא טובים כמו הבינה במתמטיקה, בספרות וברפואה - אנחנו נתלים בכך שיש לנו גוף ומודעות. אנחנו נסוגים ליתרונות של האדם הקדמון, ליתרונות מאוד בסיסיים. אבל ייתכן שגם היתרונות האלה זמניים כי רובוטים כבר הולכים היטב, ואפילו יודעים, למשל, להרים ביצה ולהחזיק אותה. זו פעולה מאוד רגישה. המין האנושי נסוג למקום האחרון שנותר לו: לנו יש גוף ולמכונה אין. אני מרגיש חמלה וכאב, והמכונה לא. יכול להיות, אבל אנשים אומרים 'יש לי חמלה אבל אין לי עבודה - מה זה עוזר לי?'

"אז מה? אתה מרגיש חמלה אבל אין לך עבודה. גם אם לאדם יש נשמה יתרה, ומותר האדם מן המכונה - השאלה היא איך יתורגמו הדברים בעולם האמיתי. לאורך השנים חשבתי שיהיו אזורים שבהם תישמר העליונות האנושית, למרות כל ההתקדמות הטכנולוגית, אבל לאט‏־לאט אני מבין שזה לא בדיוק הכיוון, וזה מדכא - כי הרשימה הולכת ומתכווצת, כאמור".

יש גם נקודות אור מבחינתך?
"בוודאי. אזרוק לכיוונך כמה מחשבות. למשל, יש טענה שלא את כל הבעיות אפשר לפתור באמצעות עוד אינטליגנציה. האם באמת לו רק היינו חכמים יותר, היינו מצליחים לפתור את מה שעומד מאחורי מחלת הסרטן? או שמדובר בבעיה ללא פתרון? אולי זו תופעה ביולוגית בלתי הפיכה? אולי עולם כמנהגו ימשיך לנהוג, גם אם תזין אותו בשפע של אינטליגנציה? כלל לא ברור שעוד אינטליגנציה תפתור את כל בעיות העולם.

"שנית, חלק מגדולי המומחים בתחום הבינה המלאכותית, מייסדי התחום, טוענים שאנו עומדים להיתקל בחומה טכנולוגית בצורה. כלומר - הכיוון הנוכחי של פיתוח הבינה המלאכותית מגיע לסופו, ואנחנו בכיוון הלא נכון. הטענות האלה ממש לא זניחות, ובבסיסן ההנחה שמודלי השפה לא יביאו אותנו לשום מקום, ושיש לעשות אחורה פנה. זה אומר שכל ההתקדמות שהתרחשה עד כה עומדת להיבלם".

עדיין מוקדם להספיד את המין האנושי.
"בהחלט, והנה עוד טענה: ההשערות שלפיהן עומדות להחליף אותנו מערכות נורא חכמות הן בסך הכל מרקטינג, שיווק של החברות שמפתחות מערכות בינה מלאכותית, שרוצות שתשלם להן עוד כסף. אני ואתה מספידים את המין האנושי כי חברות ענק הצליחו לשכנע אותנו שהטכנולוגיה שלהן כל כך חכמה. למה? בגלל שיווק. ושנינו נופלים בזה. אז לא הייתי ממהר להספיד אותנו כל כך מהר. סימני השאלה שניצבים בפנינו עוד רבים". 

להצעות ולתגובות: Ranp@israelhayom.co.il