אתם מתמכרים לבינה מלאכותית, וזה מסוכן

ערן כץ

אמן זיכרון

שיאן גינס בזיכרון, סופר ישראלי, מנחה ועורך סדנאות בתחום פיתוח הזיכרון והאינטליגנציה. מחבר "סוד הזיכרון המצוין" (הוצאת מודן), שרואה בימים אלה אור במהדורה מחודשת

ערן כץ, כשיאן גינס שזכר רשימת 500 ספרות לאחר שהוקראו בפניך פעם אחת בלבד, מעניין לדעת: מתי בפעם האחרונה השתמשת ברשימת קניות כשהיית בסופר, ולחלופין - השתמשת באפליקציית ווייז כדי להגיע ממקום למקום?
"כבר שנים רבות אני לא נעזר ברשימת קניות. אני מתייק הכל בזיכרון, כמה מוצרים שרק צריך, ומתנהל בסופר בחופשיות. גם בווייז אני מקפיד שלא להיעזר לעיתים תכופות מדי, ואני עושה זאת בכוונה - כדי לשמר ולטפח את הזיכרון שלי".

עוד נרחיב בשאלה מדוע חשוב לטפח את הזיכרון דווקא בימים שבהם עולה קרנה של הבינה המלאכותית, אבל עוד לפני זה - מדוע חשוב לך באופן אישי לטפח את הזיכרון?
"אני אוהב לאתגר את עצמי בטכניקות זיכרון מגוונות. שבירת שיא גינס, אי־אז במאה הקודמת, היתה תולדה של רצון לאתגר את עצמי, וגם כדי להוכיח לאנשים שזה אכן אפשרי. מובן שזה היה קשור גם להוצאת ספרי 'סוד הזיכרון המצוין', שרואה עתה אור במהדורה מחודשת בהוצאת מודן. המהדורה החדשה מותאמת לעידן הטכנולוגי שבו אנו חיים - הכל כדי לאפשר לאנשים לזכור כמויות של מידע, במהירות, ביעילות ובלי לחץ.

"יש לי גם וידאו ביוטיוב, שבו אני עובר בין 18 שפות שונות במשך שלוש דקות. השנה אני אפילו מתכוון לשבור שיא גינס נוסף. אנשים מתאמנים לכך במשך שעות מדי יום משום שזיכרון הוא מיומנות נרכשת, שיכולה להשתפר עם הגיל".

אז להפסיק להאמין לילידי דור הבייבי־בום, שטוענים שהזיכרון שלהם כבר לא כמו פעם?
"ביום ראשון האחרון מלאו לי 60, ואני רוצה להראות לאנשים מבוגרים שאפשר להיות אלוף עולם בזיכרון גם בגיל 60. זה נותן תקווה לאנשים. אנשים חושבים שהזיכרון הולך ומידרדר - אז לא רק שהוא לא מידרדר, הוא גם יכול, כאמור, להשתפר משמעותית".

מצד שני, כל כך הרבה עזרים טכנולוגיים באים לקראתנו ויכולים להסיר מאיתנו את השינון המפרך ואת הלחץ שמתלווה לא אחת לזכירת דברים בעל פה. אילו חשיבות ומקום יש בכלל לזיכרון האנושי בתקופה הזאת?
"באופן פרדוקסלי, עכשיו, יותר מפעם, זו התקופה הכי חשובה לפתח את הזיכרון האנושי, כי בלי תרגול - הזיכרון שלנו עלול להיפגע. בעבר השימוש בזיכרון היה הרבה יותר טבעי - פשוט היינו משתמשים בזיכרון כי לא היתה לנו שום ברירה אחרת. לרומאים, לחכמינו העתיקים וגם לדורות הראשונים בארץ ישראל לא היו סמארטפונים או מחשבים ניידים. הם נאלצו להסתמך על המוח בלבד כדי לזכור. היום אנחנו בסיטואציה אחרת".

ואתה סבור שזה לא לטובתנו.
"לא רק שאני סבור, גם המחקר מראה את זה: אפקט פלין, המייחס שיפור מתמיד ברמת המשכל של האנושות, הראה במשך שנים עלייה, אולם בשנים האחרונות מתחילה, לפי חלק מהמחקרים, דעיכה בחלק מהמדינות - למשל, בארה"ב ובחלק ממדינות אירופה. האנושות הופכת לפחות חכמה, כי התמכרנו לטכנולוגיה ולמנועי בינה מלאכותית; זה רק הצעד הראשון, וזו סיטואציה מסוכנת בדרך למיקור חוץ מוחלט של היכולות המוחיות שלנו.

"אנחנו משתמשים ביותר מדיה חברתית, מוצפים במידע ומדלגים במהירות מסחררת בין פיסות אינפורמציה שונות, וכתוצאה מכך - מעמיקים פחות. היום הודעות טקסט בין אנשים הן נורא שטחיות. אבולוציונית, ייתכן שנתחיל לפתח קוגניציה שמבוססת על הבנה שטחית על פי רסיסי מידע בלבד. זו בעיה, מפני שכל המהות הקיומית שלנו מבוססת על זיכרון: חוויות, קשרים, מי אנחנו ומה נרצה להיות, הישגים, לימודים ומה לא.

"יש סרטון מצחיק שפורסם לאחר המהפכה הסורית, שבו מורד מנסה להפעיל הליקופטר ומחפש וידאו שיסביר לו איך לעשות זאת ביוטיוב. תיאורטית הוא יכול אולי להדליק את המסוק, אולי אפילו להמריא קלות, אבל לא יותר מכך. בדיוק כפי שאדם מן השורה לא יכול לבצע ניתוח לב פתוח על סמך הסברים מבינה מלאכותית. נדרשים פה ידע, ניסיון, זיכרון, וגם יכולת לתת למטופל ביטחון, יכולת שהיא פועל יוצא של כריזמה. אנחנו מעריכים אנשים עם כריזמה, אבל היא לא יכולה להתקיים בדור שמתבסס בעיקר או רק על בינה מלאכותית".

המשל של ונוס ואדוניס

אתה טוען שגם מבחינה מוסרית אין תחליף לזיכרון האנושי.
"נכון. ברגע שאנחנו סומכים על בינה מלאכותית, קל לנו יותר לבלוע פיתיונות של פייק ניוז, וכושר השיפוט שלנו עלול להיפגע, מה שמוביל לפגיעה ביכולת קבלת ההחלטות שלנו, שגם היא קשורה ומבוססת על זיכרון - משום שאנחנו מקבלים החלטות על סמך הניסיון שלנו.

"אם נבקר במוסד סיעודי לחולי אלצהיימר, אפשר להבין למה אנחנו צריכים את הזיכרון האנושי. כי בלי זה - אין לנו כלום. כשאתה לא מזהה את בני משפחתך, ולא מצליח להיזכר בדברים וגם לא לבנות תסריטים עתידיים, כי אותם אזורים במוח מעורבים בפעולות הללו - אז מהי בעצם התכלית שלך כאן?"

אחד החששות שאתה מעלה בספר הוא שחלקים נרחבים באנושות יהפכו למעין זומבים. הסתמכות על הטכנולוגיה מטשטשת את הגבול שבין אדם למכונה.
"בהרצאות שלי אני שואל את הקהל - איך הייתם משכנעים צוות שופטים שאתם אנושיים, בדיוק כפי שצריך לעשות במבחן טיורינג. זה הולך ונעשה קשה יותר. אנשים עונים - 'הייתי משתמש ברגש', אבל זה מה שבינה עושה: כל הצ'אטים מחמיאים היום על שאלות המשתמשים ומביעים רגש מסוים".

איך בכל זאת מזהים את הגבול?
"לפני כמה שנים אחד הזוכים במבחן טיורינג עשה דבר מעניין: הבחינה התחילה, השופטים שאלו שאלה, והבינה ענתה מייד. ואז האדם שאל - למה התחלנו את המבחן ב־8:30 ולא ב־8:00? זה בגלל הפקקים שהיו בדרך? זה משהו שבינה לא יכולה לדעת".

לפחות לא היום.
"גם אם יום אחד היא תוכל לדעת, כי היא תתחבר לכל מערכת התחבורה והרמזורים, אני לא חושב שיעלה בדעתה לשאול את השאלה הזאת. אין לה יוזמה אינטלקטואלית, אין לה תפיסה הוליסטית, אין לה היסטוריה אישית, וגם לא הקשרים תרבותיים, רגשיים ומוסריים. זה היתרון שלנו. גם בעניין הזיכרון האנושי - הרי הוא לא רק מידע טקסטואלי או אודיטורי, אלא חושים, ריחות, מגע".

ויש עוד עניין: לבינה אין תודעה או עולם פנימי משלה.
"אתה מזכיר לי סיפור אחר: יום אחד ביקרתי במוזיאון המטרופוליטן בניו יורק, ואז קרה דבר מופלא. התיישבתי במשך חצי שעה מול הציור של טיציאן, 'ונוס ואדוניס', והתבוננתי. זה הרגע שבו גיליתי מה זה להסתכל על אמנות, הרגע שבו התחלתי להרגיש, להתלהב, לזהות את הניואנסים בתמונה: האופן שבו ונוס אוחזת באדוניס, המבטים המצטלבים שלהם. ואז חשבתי על טיציאן, איך הוא ישב וצייר את זה. וזה עוד דבר שמבדיל בינינו לבינה מלאכותית: היכולת האותנטית להיכנס לנעלי האחר, להזדהות עימו רגשית. בינה מלאכותית עושה זאת באופן סינתטי, כי זה מה שהיא מתבקשת לעשות. זה לא אמין וזה לא אנושי. ויש את העניין האמנותי עצמו: האם היינו מתלהבים אם היינו יודעים שכל יצירותיו של ואן גוך נוצרו בבינה מלאכותית? נראה שלא.

"המאבק והקושי שמתלווים ליצירתיות שלנו הם שקוסמת לאנשים. זה נקרא 'קסם מידבק'. כך, למשל, עבור המעיל המקורי של מייקל ג'קסון או עבור החליפה האחרונה שאלביס פרסלי לבש בהופעה - הציעו אנשים המון כסף. אבל ברגע שסיפרו לאנשים שהפריטים המקוריים עברו כביסה - המחירים ירדו פלאים כי לא היה הקסם המידבק של זיעת אפיו של פרסלי, למשל. אנחנו אוהבים מקוריות, שמשהו נעשה מתוך כאב אמיתי של אדם, מההיסטוריה האישית שלו. אף אחד מעולם לא שבר את ליבה של בינה מלאכותית, והיא מעולם לא התנשקה עם בינה אחרת. לכן לא יהיה תחליף לחוויה האנושית ולהבנה אמיתית שלה".

דווקא בשיחת הרקע שלנו סיפרת לי על דוגמה קצת מטרידה, שמעידה על הבנת החוויה האנושית.
"ביקשתי מצ'אט GPT להכין לי חוברת קצרה בגרסה עברית ואנגלית. הוא עדכן אותי שבעוד כמה ימים הוא יחזור אלי עם טיוטה לעיוני. חשבתי לעצמי - מה בעצם קורה פה? הוא פשוט יישם את כל מה שקרא באינטרנט, הבין את טווחי הזמן שבהם עובדים בני האדם, והציב סטנדרט דומה לעצמו. אבל כשביקשתי את זה ממנו בתוך 20 שניות - הוא עשה זאת בלי בעיה, כמובן. העניין הוא שהתגובות שלו, כאמור, הן סינתטיות, מלאכותיות".

לשכוח ולסלוח

מה לגבי תלמידים צעירים בעידן טכנולוגי? כיצד היית מעצב תוכניות לימודים מאוזנות שמשלבות זיכרון אנושי מצד אחד, לצד כלים דיגיטליים מצד אחר? הרי רק לא מזמן התחיל משרד החינוך לשלב בינה מלאכותית בבתי הספר. עבור ילדים זה משול לגילוי אוצר - מקסימום הנאה וכיף, ומינימום מאמץ.
"יש לפתח ולטפח זיכרון קלאסי, מסורתי, וזאת לצד פיתוח יכולות לסינון מידע ולניתוחו, לצד ביקורתיות כלפי בינה מלאכותית. לטעמי יש דגש רב מאוד, ולא מוצדק, על שימוש בטכנולוגיה בגיל הצעיר, ובשלב מסוים ייתכן שתופנם ההבנה כי הגזמנו עם השימוש בה ויש לחזור לשורשים ולבסיס. המפתח, כפי שאמרתי, הוא שילוב בין שני העולמות. אבל זה מורכב".

בעיניי, בדיוק כפי שילדים לא משתמשים במחשבון בתחילת שנותיהם בבית הספר, אלא לומדים פעולות חישוב בסיסיות, כך גם יש למנוע מהם בגיל צעיר, לפחות בבית הספר, את השימוש בבינה מלאכותית. ברגע שהם רוכשים את יכולות ההבנה, הזיכרון, הביקורתיות והסקת המסקנות הגולמיות - אפשר לעבור איתם לשימוש בכלים מתקדמים יותר. כך הם גם עשויים להתייחס למנועי בינה מלאכותית למיניהם כיועצים, ולא כדברי אלוהים חיים.
"אני בעד. העניין הוא לשכנע אותם כמה חשוב המוח, הזיכרון, כי אנחנו חיים בעולם שבו לייקים ותגובות ברשתות הם השאיפה החדשה. אלא שלטעמי, הדבר הכי מרשים בבני אדם הוא האינטלקט. אבל כשאני מגיע להרצות בפני תלמידים צעירים ומראה להם כיצד אני מסוגל לזכור 50 ספרות אקראיות בעל פה - הם לא מתרשמים כמו פעם. הם כבר ראו הכל, ומה שמעניין אותם זה בכלל הלייק הבא. פעם אנשים היו נדהמים, בהלם. הסקרנות של הדור הצעיר דועכת במובנים מסוימים. בעולם של סרטונים ואמוג'ים אולי בקרוב נצטרך לשכנע אותם מדוע קרוא וכתוב הן פעולות חשובות".

בוא נדבר קצת על איך אפשר לשכוח.
"האנלוגיה היא לעולם המחשבים. אפשר למחוק זיכרונות כך שיגיעו לסל המיחזור, ולא יפריעו לנו בדסקטופ של החיים. אנחנו זוכרים בעזרת אסוציאציות ויכולים לשכוח כשאנחנו פורמים את הקשר האסוציאטיבי".

איך פורמים קשר אסוציאטיבי?
"יוצרים אסוציאציה חדשה. אם שיר מסוים מעורר אצלנו זיכרונות לא רצויים לאקס או לאקסית, כדאי לשמוע אותו בסיטואציות חדשות, ולשנות את החיבור של המוח כלפי אותה אסוציאציה. אפשר לעוות זיכרונות, כפי שממילא אנחנו עושים, באופן מכוון - לשנות, להוסיף ולהחסיר פרטים, כך שיתאימו לנרטיב שלנו".

או לשנות את הנרטיב עצמו. לפעמים הסיפור שאנחנו מספרים לעצמנו, והגבולות הפנימיים שאנחנו מציבים בתוכנו - פוגעים בנו.
"אני מסכים לחלוטין. השאלה היא כמה אנשים רוצים להשתפר ולהשתנות, וזה לא תמיד המצב. לפעמים אנשים מעדיפים לשמר את הקיים, גם אם הוא לא מיטיב עימם. ובאשר לשאלתך הקודמת, יש עוד דרך שמסייעת לשכוח ולקבל את הקיים: לסלוח - לאחר, לעצמנו, לסלוח על אירועים שלא היו בשליטתנו - וזה מעוגן גם במחקרים. באנגלית יש סמיכות פונטית בין המילים Forget (לשכוח) ו־Forgive (לסלוח). הבעיה היא שאנחנו לא באמת יכולים לסלוח מייד, וכאן אני נתלה באילנות גבוהים: בתנ"ך, בברית החדשה ואפילו בבודהיזם - נכתב שיש לסלוח 77 פעמים. כשאנחנו סולחים שוב ושוב - המוח משתכנע בסופו של דבר".

בסיום הספר אתה כותב שאנשים עם זיכרון טוב יותר יוצרים חברה טובה יותר. תסביר.
"מי הם אנשים עם זיכרון טוב יותר? אלה אנשים עם סקרנות גדולה יותר, אחריות ומוסריות. אלה הם דברים שמסייעים ללכידות ולחוסן של חברה וגורמים לה גם להיות אמפתית יותר. מי שזוכר שמות של אנשים זה אדם שאכפת לו מהאחר. וכשאתה פוגש מישהו שזוכר את השם שלך, זה נותן לך תחושה טובה, תקווה".

ולכן זיכרון הוא הכרח בחברה אנושית.
"נכון, זיכרון יהיה הכרח מכל הסיבות האפשריות והנכונות. זיכרון מגדיר אותנו, הופך אותנו למה שאנחנו, ובלעדיו אנחנו כאין וכאפס". 

להצעות ולתגובות: Ranp@israelhayom.co.il