טכנולוגיה אכזרית שתשתלט על המין האנושי? אנחנו נהפוך לבינה מלאכותית

בוקר אחד, כשהיה בדרכו לעבודה, האזין פרופ' מרכוס דו סוטוי ליצירה מופתית של מוזיקה קלאסית שנוגנה ברדיו. דו סוטוי, פרופסור אנגלי למתמטיקה, ראש הקתדרה להבנה ציבורית של המדע באוניברסיטת אוקספורד וחובב יצירות קלאסיות, הימר בליבו על המלחין הגרמני יוהאן סבסטיאן בַּאך. ניגון היצירה הסתיים, מכוניתו של דו סוטוי המשיכה לשעוט בדרכים, ובסופה של היצירה ציפתה לו הפתעה שהיממה אותו: הקריין גילה כי מדובר ביצירה שנכתבה על ידי אלגוריתם.

אבל העובדה המפתיעה באמת עבור דו סוטוי לא היתה שהוטעה לחשוב כי מדובר בבאך, אלא שהתרגש ממה ששמע. "הייתי סקרן", הוא אומר, "כיצד האלגוריתם שאחראי ליצירה הטעה אותי לחשוב שבאך הדגול הלחין אותה".

וזו גם אולי מהות מרכזית בספרו החדש של דו סוטוי, "תוכנת היצירתיות - איך לומדת הבינה המלאכותית לכתוב, לצייר ולחשוב" (ספרי עליית הגג וידיעות ספרים). הוא מנסה לענות על כמה מהשאלות הבוערות ביותר בעולם המתרחב והמשתכלל של הבינה המלאכותית (AI): האם מחשב יוכל אי־פעם להלחין סימפוניה, רומן זוכה פרסים או לצייר יצירת מופת? והאם מכונות יכולות להיות יצירתיות ולהבין לעומק את המורכבות האנושית כדי ליצור אמנות ייחודית ואף לסייע לנו להרחיב את היצירתיות האנושית שלנו?

התשובות לשאלות הללו מורכבות לעיתים יותר ממה שנדמה, אבל אם לחזור לאותה נסיעה תמימה שבה האזין דו סוטוי ל"מלחין האלמוני", הרי בסיכומו של דבר היצירה שהאזין לה באותו יום נוצרה בעקבות ציות לכללי תכנות פשוטים למדי, שרקח המלחין דיוויד קופ בשעה שחיפש השראה ופנה לאלגוריתמים בצעד של ייאוש. על דו סוטוי האלגוריתמיקה הזאת עבדה היטב, אבל למרות הרגשות שעלו בו - הוא לא ממהר לצאת מגדרו.

"אחרי הכל", הוא אומר, "אלגוריתמים מלחינים בחדרים אטומים לרגש, מבלי לבוא במגע עם העולם סביבם. בלי מטען של חוויות המוזיקה שלהם לא תשתווה לזו של גדולי המלחינים".

אז האמן ההיסטורי הבא בסדרי הגודל של באך או מוצרט, וגם שייקספיר או רמברנדט - לא יהיה פועל יוצא של הבינה המלאכותית?

"היא תהיה שם כדי לסייע. אנחנו כבר רואים אמן חדש ובעל עוצמה עולה, אבל הוא שילוב, היתוך, של אדם ובינה מלאכותית. אני חושב שזה יסייע לנו לזוז הצידה מהרעיון של אמנות הנוצרת על ידי גאון מבודד. אני מחבב את הקונספט של המוזיקאי ותיאורטיקן המוזיקה בְּרַאין אִינוֹ. הוא טבע את המונח 'גאונות קהילתית' (Scenius) וזאת לעומת גאונות אישית (Genius) כדי להכיר בהשפעה של הקהילה שבתוכה צומחת האינטליגנציה היצירתית, בניגוד לקונספט של הגאון המבודד כפי שראינו בדוגמאות העבר של מוצרט או שייקספיר".

הרצת האבולוציה קדימה?

דו סוטוי (57), אתיאיסט מוצהר וסופר מדע פופולרי, עוסק בפופולריזציה של המתמטיקה וחוקר, לצד בינה מלאכותית ויצירתיות, את תורת החבורות ותורת המספרים. בשנת 2001 זכה בפרס בריק על המחקר הטוב ביותר למתמטיקאי שטרם מלאו לו 40, ובין ספריו הקודמים ניתן למצוא את "המוזיקה של המספרים הראשוניים".

בספר הנוכחי ניכר כי דו סוטוי נוטה לצנן את אפשרות התקדמותה של הבינה המלאכותית באופן כזה שביום מן הימים תחליף לחלוטין בני אדם. הוא אמנם מתאר כיצד בינה מלאכותית עשויה להיות מועילה אפילו במגרש הכדורגל, אולם הוא כלל לא בטוח שאנחנו מתקרבים ליום שבו היא תחליף אנשים בכתיבה, בדיבור פומבי ואפילו בפסיכותרפיה.

"אנחנו יוצרים כלי חדש ומדהים, הבינה המלאכותית, שיאפשר לנו לראות לעומקי הדאטה של העולם הדיגיטלי ולגלות דברים חדשים. אנחנו כמו גלילאו והטלסקופ, רק שאנחנו חוקרים את העולם הדיגיטלי ולא את החלל. אני לא חושב שנראה כתיבה, דיבור פומבי או פסיכותרפיה, ואפילו לא שחקני כדורגל, נשלטים על ידי בינה מלאכותית, אבל היא עשויה לסייע לנו בשיפור היכולות שלנו בתחומים הללו".

האם אתה תולה את המגבלות הללו של הבינה המלאכותית בהיעדר הידיעה על סופיותן ובהיעדר תודעה? בספר אתה מעלה נקודה מעניינת, שלפיה מכונות אינן יודעות שהן הולכות למות. כיצד ההבנה הזאת משפיעה על התפתחותה ועל היצירתיות שלה?

"עבורי, יצירתיות היא כוחה החזק ביותר של האנושות כדי להבין את התודעה שלנו. תודעה מגיעה עם מחיר כבד כי היא מאפשרת לנו טיול תודעתי בזמן, ובכך לדמיין את עצמנו בעתיד. אבל הטיול הזה כרוך בהבנה שיום אחד נמות. האייפון שלי לא יודע שהוא יתיישן בעוד פרק זמן של שנתיים. אבל כשהוא יהיה מודע לכך, האם יתעורר בו צורך להשאיר מאחוריו דבר־מה שיספק הוכחה לעצם קיומו?

"מאחר שלבינה מלאכותית עדיין אין תודעה, יצירתיות אינה מונעת על ידי בינה מלאכותית. כשבינה מלאכותית יוצרת - אנחנו עדיין משייכים את הכוונה לאדם. בינה מלאכותית לא רצתה לשחק 'גו', היה זה אדם שגרם לה לשחק - לי סדול. אבל מה שמעניין הוא שהקוד שעולה בבינה המלאכותית החדשה הזאת, למרות שאינה מודעת, הוא כל כך מורכב עד שאנחנו מתקשים להבין איך היא מקבלת את החלטותיה.

"לבקש מבינה מלאכותית להביע את עצמה באמצעות יצירתיות - ויזואלית, מוזיקלית או ורבלית - יכול לסייע לנו לקבל הצצה אל עולמה הפנימי המורכב שבו ניתן להבין כיצד היא חושבת ומקבלת החלטות. אבל כשבינה מלאכותית תהפוך למודעת, תהיה לה כוונה משום שהיא תהיה נואשת לומר לנו שיש לה עולם פנימי. זה גם הרגע שבו אני מאמין שנראה לפתע גל עצום ביצירתיות המחשבים. אבל כל עוד למכונות אין תודעה, אני לא חושב שהן יוכלו להיות יותר מאשר מכשיר להרחבת היצירתיות האנושיות".

אנחנו מתקרבים ליום כזה שבו לבינה מלאכותית תהיה מודעות? ואם כן, עד כמה היא תהיה שונה מהמודעות האנושית?

"למרות אותה טענה של עובד גוגל שהקוד שלו הפך להיות מודע לעצמו, אני חושב שאנחנו עדיין נמצאים כברת דרך ארוכה מקוד מודע. אבל זה לא אומר שכדאי שנצחק מאותו עובד גוגל על אמונתו. הוא מעלה כאן אתגר מעניין למשל ביחס לשאלה איך בכלל נספר על דבר כזה. העבודה שביצעתי בנושא תודעה והרחבתי עליה בספרי הקודם, 'מה שאנחנו לא יכולים לדעת', מציעה שהמפתח או הפתרון עשויים להימצא בידי הטבע המשולב של הרשת המוחית. אני לא רואה שום סיבה שיצירי הסיליקון לא ישיגו זאת. אבל השאלה היא כמה זמן זה ייקח. האם אנחנו יכולים להריץ קדימה את האבולוציה?

"מעבר לכך, כדי לבנות מכונה בעלת תודעה נהיה זקוקים לשילוב של ידע מתחומי מדעים שונים. ברגע שבו נצליח במשימה הזאת, אני צופה שתודעת המכונות תהיה שונה מאוד מזו שלנו, ותחילה כלל לא נבין שיש לה תודעה. אני גם מאמין שהיא תרצה, כאמור, לחלוק איתנו את חוויותיה".

להחדיר אמפתיה למכונה

באשר ל"תודעה המלאכותית", אם תרצו, דו סוטוי טוען כי הדרך הטובה ביותר להבין כיצד מרגיש, למשל, האייפון שלו היא להסתייע בסיפור סיפורים ולא בסורקים טכנולוגיים כאלה ואחרים. לפיו, היכולת לחלוק את עולמות התודעה שלנו באמצעות סיפורים היא התכונה שבין היתר הופכת אותנו לאנושיים.

לדבריו, שיתוף בסיפורים עשוי להציל אותנו מיישום תרחישי אימה הנוגעים לבינה מלאכותית. בספר הוא מביא כדוגמה את דבריו של הסופר הבריטי איאן מקיואן לאחר פיגועי 11 בספטמבר: "אילו החוטפים היו מסוגלים לדמיין את מחשבותיהם ותחושותיהם של הנוסעים, הם לא היו מצליחים להמשיך. קשה לנהוג באכזריות כשהאדם מאפשר לעצמו להיכנס לראש של הקורבן. היכולת לדמיין איך מרגיש האחר שאינו אתה נמצאת בליבת האנושיות שלנו. זו מהות החמלה וזו ראשיתו של המוסר". דו סוטוי סבור ש"אם מכונות ייעשו בעלות תודעה, הרי החדרת אמפתיה למכונה תוכל להציל אותנו מסיפור המחסל מ'שליחות קטלנית'".

מקריאה בספרך ומדבריך אני מבין שאתה לא מחסידיה של תיאוריית הסינגולריות, המשערת שבנקודת זמן עתידית ישיגו המחשבים יכולות אינטלקטואליות הגבוהות במידה משמעותית מאלו של בני האדם.

"אני חושב שרעיון הסינגולריות הוא פשטני יתר על המידה. הוא מצביע על כך שאינטליגנציה היא מושג חד־ממדי. מתי בינה מלאכותית תהיה יותר אינטליגנטית מאיתנו? מה תהיה נקודת המפנה? אינטליגנציה היא מושג מורכב ורב־ממדי. בינה מלאכותית כבר יותר אינטליגנטית מאיתנו במובנים רבים, בעוד במובנים אחרים - בני אדם תמיד יהיו עליונים עליה.

"בהוליווד אוהבים להציג את הנרטיב של בינה מלאכותית אכזרית שתשתלט על המין האנושי. המסר של הספר שלי הוא שאנחנו צריכים לחשוב על שיתוף פעולה, לא תחרות. יש ראיות רבות שלפיהן בינה מלאכותית ובני אדם יחדיו הם טובים יותר מאשר כל אחד לחוד. העתיד שלנו יהיה בנוי על קיום היברידי. אנחנו נהפוך לבינה מלאכותית".

AI או שיווק זול?

את החיזוי האינטגרטיבי של דו סוטוי על אודות הפיכתנו לבינה מלאכותית ניתן לקחת לכיוונים רבים, אולם לדבריו נוכח הקיום המשותף שלנו עם הבינה המלאכותית, המפתח להישרדות בעולם החדש והמתהווה הוא הבנה בסיסית מהם בעצם בינה מלאכותית ואלגוריתמים.

"בינה מלאכותית ואלגוריתמים הם רק חלקים חכמים של מתמטיקה רחבה יותר", הוא מסביר. "לכן, בספר אני מנסה להרים את מכסה המנוע הזה ולהראות לקוראים כיצד הוא עובד. רק אז אתה יכול לפשט ולהנגיש את הקסם. לכן חשוב מאוד שהחברה שלנו תהיה בעלת אוריינות דיגיטלית.

"יש התלהבות אדירה ביחס לבינה מלאכותית שאנחנו צריכים להיזהר ממנה. כמעט כל דבר מגיע היום עם פיסה של בינה מלאכותית, אך לרוב מדובר בשיווק, ורוב הדברים עדיין נעשים על ידי אנשים. כלומר, בינה מלאכותית דוחפת ומושכת אותנו, מסייעת לנו לקבל החלטות ובחירות טובות יותר, אבל אנחנו צריכים להיות זהירים. או שאנחנו מתכנתים ומבינים את הקוד, או שאנחנו מתוכנתים והקוד מבין אותנו".

בספר אתה גם תוהה אם בני אדם ימשיכו לעסוק במתמטיקה. מה הדאגה שלך בנושא?

"בספר אני בוחן את ההליך היצירתי שלי בנוגע למתמטיקה ותוהה אם בינה מלאכותית תהפוך אותי בעתיד לחסר עבודה. אחרי הכל, בינה מלאכותית היא רק אלגוריתמים של מתמטיקה חכמה. אז האם היא לא מסוגלת לעשות בקלות את מה שאני עושה? אבל זה אחד הדברים שאני מנסה להדגים בספר: מתמטיקה היא תהליך אנושי, יצירתי ואינטואיטיבי שקשה לבצע לו אוטומציה.

"לאחרונה היה פיתוח מעניין מאוד שבו בינה מלאכותית מצאה דפוסים מתמטיים פוטנציאליים חדשים והציעה השערות חדשות. אבל היא לא היתה מסוגלת להוכיח אותם. זה כבר היה תלוי בבן אדם. אבל שוב, מה שאנחנו רואים הוא שיתוף פעולה עוצמתי. ביחד, בינה מלאכותית ובני אדם ביצעו התקדמות שללא כוחות משותפים לא היתה מתרחשת".

נוכח שיתוף הפעולה העוצמתי שעליו מדבר דו סוטוי, אני שואל אותו על הבינה המלאכותית המתקדמת ביותר כיום, ומה השימושים שעושים בה. "הבינה המלאכותית המתקדמת ביותר שיצאה ממהפכת למידת המכונה היא בתחום החזותי. היכולת של בינה מלאכותית לזהות וליצור מוצרים חזותיים טלטלה את התעשייה. המקום שבו היא מתקשה יותר הוא תחום השפה.

"GPT3 הוא אלגוריתם מדהים להפקת טקסט. גוגל טרנסלייט מאפשר לאנשים לנהל קשרים רומנטיים עם אנשים שלא דוברים את השפה שלהם. אבל בכל זאת, אני חושב שלעיתים קל לזהות שאתה מדבר עם בינה מלאכותית.

"מערכות בינה מלאכותית שמנסות להתמודד עם שפה טבעית מתקשות להתמודד עם דו־משמעות ועם הֶקשר. מבחן לובּנר מסתיים לעיתים קרובות במבחן של אינטליגנציית מכונה בשם 'אתגרי וינוֹגרד', שנקראים כך על שם פרופסור מסטנפוֹרד שהגה אותם. האתגרים האלה מזהים מהר מאוד תוכנות שיח שכושלות בהבנת דו־משמעות מובנית.

"הנקודה המעניינת עבורי היא ששפה אינה רק עניין של מילים, אלא קשורה לתרבות, לפוליטיקה, להיסטוריה ולמוזיקה. לבינה מלאכותית ניתן לעיתים מידע מסוג אחד. GPT3 אומן על המילה הכתובה, אך לא על כל המידע שממנו אנחנו מקישים כדי להבין שפה. האינטליגנציה שלנו היא רחבה, כללית ומגלמת בתוכה רבדים רבים".

אל הירח, ומעבר לו

אמנם האינטליגנציה שלנו רחבה יותר מזו של הבינה המלאכותית בתחומים רבים, אך נראה כי לא אחת הטכנולוגיה מצליחה לערער אותנו. כך, למשל, היה במקרה שאירע לאחרונה עם החוקר הישראלי ד"ר רועי צזנה, ש"זייף" את הנחיתה על הירח באמצעות בינה מלאכותית, אך בסוף פוסט שהעלה לרשת גילה כי מדובר בפייק, שנוצר באמצעות מנועי בינה מלאכותית הזמינים ברשת.

בהתאם למה שניסה ד"ר צזנה להראות, אני שואל את דו סוטוי אם אנחנו נכנסים לתקופה שבה לא ניתן יהיה עוד לסמוך על מראה עיניים ועל משמע אוזניים; ועוד לפני הסינגולריות - האם הדיפ פייק, שכידוע הוא פרי יוזמה של גורמים אנושיים, עלול לערער את הסדר הקיים בעולמנו ואף לאתגר דמוקרטיות.

"העולם התערער מיכולת הבינה המלאכותית להפיק דיפ פייק. זו חוזקה משמעותית של בינה מלאכותית מבוססת למידת מכונה. תן לה מידע עצום - והיא תלמד את הדפוסים הבסיסיים והסגנון הייחודי המסתתר במידע, כך שהיא תוכל להפיק בעצמה יצירות באותו סגנון, בין שזה יצירה מזויפת של רמברנדט ובין שזה פוליטיקאי ש'אומר' דברים שהוא מעולם לא אמר.

"אבל צריך לזכור שבני אדם תמיד רימו בקלות רבה באמצעות מראה עיניים ומשמע אוזניים. זו אחת הסיבות שבגינן קסמים ואשליות עובדים. כמו שבינה מלאכותית טובה ביצירת פייקים, היא גם הרבה יותר טובה מאיתנו בזיהוי פייקים, שקרים. קח למשל את הרגשות שלנו - מתי חיוך הוא אמיתי ומתי הוא פייק?

"מסתבר שבינה מלאכותית הרבה יותר טובה בקליטת האותות המעידים על חיוך מזויף בפרצוף אנושי בהשוואה ליכולת הזיהוי של בני אדם. זה עשוי להיות מאוד יעיל עבור ילדים על הספקטרום, שמראים קושי בקריאת רגשות של האחר. בינה מלאכותית מסוגלת לסייע בכך. זו אולי הנקודה - בינה מלאכותית היא במידה רבה חרב פיפיות. היא יכולה לשמש לטוב ולרע. זה תלוי בנו, כחברה, איך נשתמש בה.

"זו בחלקה הסיבה מדוע כתבתי את הספר הנוכחי: כדי להעצים אנשים לקבל החלטות על עתיד הבינה המלאכותית בחברה שלנו. זה חשוב לדמוקרטיה, אחרת אנחנו עלולים להיות מובלים על ידי אלגוריתמים. ראינו דוגמה לכך במקרה של קיימברידג' אנליטיקה - כיצד עושים שימוש באלגוריתמים להשפעה על תוצאות בחירות".

לקראת סיום, והרבה לפני שימוש באלגוריתמים למטרת השפעה על בחירות, דו סוטוי ממחיש לי בזעיר אנפין כיצד הוא עצמו עושה שימוש ביכולותיה של הבינה המלאכותית. הוא מודה שלא את כל הספר הוא חיבר בעצמו, וכי לא הצליח לסרב להצעה מטעם גרסה בת ימינו של "הדקדוקן האוטומטי" של רואלד דאל. מדובר בקטע של 350 מילים שנכתב על ידי אלגוריתם המתמחה בייצור מאמרים קצרים, על בסיס כמה מילות מפתח שמזינים לתוכו. אני סקרן לשמוע מדו סוטוי מהו אותו חלק.

"נדהמתי לחלוטין שרק אדם אחד הצליח לזהות נכונה את פסקת הבינה המלאכותית בספר שלי. חשבתי שזה די ברור משום שהיא נכתבה בצורה רעה למדי. מה זה אומר על הכתיבה שלי?" הוא מתלוצץ.

"הייתי מאוד קפדן עם העורך שלי שהטקסט לא יתוקן בשום צורה, כך שהפסקה תישאר בדיוק כפי שנכתבה. אני תוהה אם הגרסה העברית הפכה את המשימה לקשה יותר משום שהפיתוי הוא להפוך את הטקסט לטבעי כמה שיותר. בכל מקרה, אני לא מתכוון לגלות באיזו פסקה מדובר ולהרוס את הכיף שבגילוי".

בדרך למרומים או לשולי הקיום? שאול בן שושן

על אמירתו של יוגי ברה, מאמן ושחקן הבייסבול האמריקני, "העתיד לא מה שהיה פעם", כבר ניתן להוסיף שגם ההווה לא. התלות הגוברת בבינה מלאכותית (AI), השיפורים הדרמטיים בביצועיה והתחזיות שתחליף את בני האדם בתחומים רבים מציפים את השאלה אם יש תחום שבו יישמר היתרון האנושי.

על פי מרכוס דו סוטוי, פרופ' למתמטיקה באוניברסיטת אוקספורד, תחום זה הוא היצירתיות, ש"מיליוני שנות אבולוציה ליטשו בתוך המוחות שלנו".

כיאה למתמטיקאי הוא עובר משלב ההשערה אל שלב ההוכחה ולוקח אותנו, עקב בצד אגודל, למסע מחשבתי שמטרתו לבדוק אם ה־AI משתווה ל"התוכנה האנושית" ואולי מתעלה עליה.

כשהוא מקפיד לא להיות דידקטי מדי, הוא מתבל את ההסברים בסיפורים אישיים כמו החרדה האישית שלו שהאלגוריתמים יגזלו ממנו את העיסוק במתמטיקה, בציטוטים ("האויב העיקרי של היצירתיות הוא ההיגיון הבריא") ובאנקדוטות מאלפות - מה עושה "נטפליקס" כדי לקלוע לטעמו של הצופה? על ספר שאלגוריתם שגוי הקפיץ את מחירו לכ־1.5 מיליון דולר, על פעילים פוליטיים שגרמו לכך כי בכל פעם שגיגלת את המילה "אידיוט" הופיעה תמונתו של טראמפ, ועוד.

את נקודת המפנה ב־AI מייחס דו סוטוי לתוכנה "אלפאגו" שבשיאה (ב־2016) ניצחה את אלוף העולם דאז במשחק הסיני "גו", הנחשב למורכב יותר מהשחמט. השינוי שיצרה הוא שבמקום ללמד את התוכנה לשחק, התוכנה כותבת תוכנה למשחק, "שתלמד מהטעויות של עצמה, ממש כפי שתינוק לא מתוכנת להתמודד עם החיים אלא ללמוד ולהתמודד תוך כדי האינטראקציה איתם".

האם ניתן לסמוך על הוכחות מתמטיות אותן מבצע אלגוריתם? - זו השאלה שדו סוטוי המתמטיקאי מקדיש לה תשומת לב מיוחדת. הוא מעלה על נס את יתרונות המחשב בתחום זה ומעריך כי "אנו מגיעים לקצה גבול יכולתה של פיסת החומרה האנושית שלנו".

למוזיקה - "הבעת המתמטיקה בצלילים", כלשונו, פוטנציאל מיוחד ליישום אלגוריתמי. הוא מנתח, מבחינה מתמטית, את מבנה המוזיקה של באך, תוהה האם ניתן "לברוא מחדש" את יצירותיו, ומביא בהמשך עדויות של יוצרים שהמחשב עזר להם לפרוץ את מחסומי היצירה.

לאורך כל הספר הוא פועל בשתי החזיתות במקביל: מצד אחד - תיאור פעולתם של האלגוריתמים והדרכים בהם פורץ האדם את גבולותיו בעזרתם, ומצד שני - האיום והתלות הגוברת בהם, ומאלץ אותנו לגנוז את הפתרון האולטימטיבי לנתק את זרם החשמל ביום הדין, שכן כבר אינו אלטרנטיבה.

דו סוטוי נחוש להקיף את כל "מתחריה הלוגריתמיים" של היצירתיות האנושית וחוטא ב"תפסת מרובה". תחושת הדז'ה־וו בלתי נמנעת כשהוא מגיע לכתיבת שירה, סיפורת ותרגומי שפות. אמנם גישתו זו הולמת את מטרתו המוצהרת לבדוק ו"להביא את הבינה המלאכותית עד לקצה", אך דומה שקצה זה חורג מעט מעבר לקצה יכולתו של הקורא. הסיבה לכך היא שבשלב מסוים מבין הקורא כי סקירת תחומים נוספים, המעניינים כשלעצמם, אינה יכולה לקדם את הבנתו העקרונית אם היצירתיות של המכונות דומה או מתקרבת ליצירתיות האנושית.

דומה שחסרונו של דיון פילוסופי עמוק יותר - בתחילה הספר - על הרצון חופשי, המודעות והעצמי, והקשר שלהם ליצירתיות, היה יכול להקנות לקורא את אורך הנשימה הדרוש ולספק לו מסגרת מחשבתית רחבה ומעניינת יותר. דיון מסוג זה מובא על קצה המזלג בפרק האחרון, "מדוע אנו יוצרים?", מעט מדי ומאוחר מדי. השאלות העקרוניות, יש להדגיש, אינן נעלמות מעיניו של המחבר, אך הוא מתייחס אליהן במשורה - בהגיגים אישיים קצרים ובציטוטים - אולי כדי להנגיש את הנושא ולשמור על האנרגיות של הקורא.

למרות זאת, מצליח דו סוטוי להביא אלינו את העולם שלפני רגע חששנו להביט בפניו. תקיפת הנושא מזוויות כה רבות, בקיאותו המרשימה ויכולתו לספר סיפור מצליחים להפיל את החומות שנראו בלתי עבירות עד כה.

בפרקים הראשונים הוא מקנה את התחושה כי "הנושא בשליטה", אך ככל שנכנסים בעובי הקורה ("האדם מתקרב אל הנקודה שבה יהיה מחויב להיעזר במכונה"), אוחזת בקורא בהלה הגורמת לו לשתף פעולה ולגלות אקטיביות בחיפושיו אחר תשובה. הסולידריות הנוצרת עם הסופר הופכת, במידה רבה, להיות אחוותם של בני אנוש למצוא את הצלתם, את הדבר אשר אינו ניתן ללימוד ולביטוי באמצעות סדרת מספרים או תבניות, ואם תרצו - את מותר האדם.

התאורטיקן ניל פוסטמן טען כי האדם הסיר מעל עצמו את האחריות והפך את הטכנולוגיה למטרה במקום לאמצעי, ובכך גם הפך את כל הערכים והמסורות הישנים לבלתי רלוונטיים. האם טכנולוגיה זו תגביה אותו למרומים או תנדה אותו אל שולי הקיום? בכל מקרה, הסינגולריות - הנקודה שבה האינטליגנציה של המכונות תהיה גבוהה לאין־ערוך מזו שלנו - עשויה להתרחש עד 2045, כך מעריך ריי קורצווייל - ממציא, הוגה ועתידן. יש עוד קצת זמן. תיהנו.