"זה קורה כבר עכשיו, בשקט. מנהלים בכירים בודקים איפה הבינה המלאכותית עשויה להחליף אתכם"

ד"ר רועי צזנה
עתידן
חוקר עתידים במרכז למחקר סייבר בינתחומי ע"ש בלווטניק באוניברסיטת תל אביב. עוסק בניתוח טכנולוגיות חדשניות והשפעותיהן על החברה. בזמנו הפנוי פעיל כקוסם וכאמן חושים

ד"ר רועי צזנה, כמה שבועות אחרי השקתו הרשמית של מנוע הבינה המלאכותית GPT3, נראה שזהו זמן טוב להבין מה למדנו בחודש האחרון. האם חזינו ברעידת אדמה בעולם הטכנולוגיה, אולי באנושות כולה, או שמא מדובר בתזוזה קלה, לא משמעותית?
"תרשה לי לפתוח ולומר שסביב צ'ט GPT יש המון יחסי ציבור של חברת OpenAI, שלפי הערכות עולים לה כמה מיליוני דולרים בחודש - הנדרשים כדי להפעיל את כל כוח המחשוב הזה. הרי מדובר בצ'ט שמבוסס על מודל שפה, מהמוצלחים בעולם, שהשתחרר לשוק לפני כשנתיים, אבל רק לאחרונה הפך נגיש יותר לציבור הרחב, שמבין כעת כמה הוא מרשים. הגרסאות האחרונות של מנועי השפה כל כך משוכללות, שהן מגיעות לכל שירות, תוכנה ואפילו משחק מחשב. אין ספק שאנחנו כרגע בנקודת זינוק, ונראה כאן דברים שעד לפני שנתיים היינו רק יכולים לחלום עליהם".
כרגע מתחילות ספקולציות באשר לגרסה הבאה של GPT.

"וכולם מנחשים. אנחנו די בטוחים שהיא תוכל להתחשב ביותר פרמטרים מ־GPT3, לעבוד עם טקסטים ארוכים יותר, לקרוא אותם ולהפיק מהם תובנות. אחד הניחושים הוא ש־GPT4 יתייחס לא רק לטקסט, אלא גם לתמונות, לווידאו ולמוזיקה. כלומר, הוא יחווה את דעתו על המוזיקה של באך, ואולי גם יפיק תמונות, סרטים ומנגינות בעצמו.

"כיום יכולות הטקסט של GPT3 עדיין מוגבלות, אבל אפשר להניח שהמנוע הבא יעבור על כמויות טקסט רבות יותר, ואולי אף יוכל לכתוב לנו ספר שלם בהתאם לסגנון שנבקש ממנו. זה אולי לא יהיה ספר מדהים, אבל כזה שיהיה נקודת התחלה. גם היכולת שלו לכתיבת קוד תשתפר, והוא יוכל לקרוא ולכתוב טוב יותר בכל שפה המתועדת היטב ברשת".

אחת ההפתעות במנוע הנוכחי נרשמה כאשר בלי כוונה - GPT3 למד לו עברית.
"זה הפתיע אותנו לחלוטין. איש לא לימד אותו עברית במכוון, אבל הממזר מצא מספיק מידע באינטרנט והצליח להבין את השפה. אז פתאום הוא יודע לקרוא ולענות בעברית, אפילו שיש לו עוד הרבה ללמוד. בהמשך אנחנו משערים שהוא ידבר יותר לעניין, ייצור הקשרים מדויקים יותר, ידבר פחות 'שטויות'. וכמובן, הוא יענה על שאלות אקטואליות יותר, ממש עכשוויות, כי כרגע המידע של GPT3 רלוונטי רק עד 2021".

ב"ניו יורק טיימס" דווח שבגוגל הוכרז מצב חירום סביב ההשקה הזאת. יש להם ממה להילחץ?
"כן. GPT3 לא מפנה אותך למקומות שבהם יש תשובות, אלא נותן אותן. גוגל הבינו עד כמה אנשים רוצים תשובות, בלי מסעות חיפושים. החדשות הטובות מבחינתם הן שיש להם בינות מלאכותיות משוכללות אולי אפילו יותר מצ'ט GPT. אבל לגוגל, עד כה, לא היה אינטרס לירות לעצמה ברגל - כי אם בינה מלאכותית נותנת לנו תשובה, אין לך צורך בחיפוש ואתה לא נחשף לפרסומות, מה שפוגע ברווחיות שלה. הם גם חששו ממנוע שיפיק שטויות ויפגע באמינותם".

מה לגבי מיקרוסופט? אמנם דווח השבוע שהיא צפויה לפטר כ־11 אלף עובדים, אבל מנגד – היא השקיעה ב־OpenAI ממון רב. זו ההזדמנות שלה לכבוש שוב את הבכורה?
"אני חושב שכן, זו ההזדמנות לשלב בינה מלאכותית מתקדמת במוצריה, וזו בהחלט אפשרות מעניינת".

תחששו, יש לכם סיבה

אפשרות מעניינת מתחום אחר ששווה להתייחס אליה נוגעת להשלכות התעסוקתיות סביב GPT3. אתה צופה תרחיש שבו מנהלים יפטרו חלק מעובדיהם משום שהבינה המלאכותית תייתר את עבודתם?
"כן, וזה כבר מתחיל לקרות. רק לאחרונה יצא מחקר של MIT, שלפיו חלק גדול מחוסר האיזון ההיסטורי בשכר קשור לתהליכי אוטומציה. מי שיודע לרתום את הטכנולוגיה לצידו, שכרו יעלה, ומי שלא - עלול להיות מפוטר, או שהעלייה בשכרו תוקפא. לאורך זמן יפחת הצורך באנשים שיעשו עבודות רוטיניות".

מתרחש פה מצב מעניין, כי פעם נהוג היה לחשוב שאנשי צווארון כחול יוחלפו ראשונים, ואילו בפועל, בוודאי לנוכח צ'ט GPT, מי שמאוימים להיות מוחלפים ראשונים הם אנשי הצווארון הלבן - מנהלים, מהנדסים, אנשי קריאייטיב. אנחנו צריכים לחשוש?
"הזהרתי מכך כבר לפני כעשור. ראשית, כולנו צריכים לחשוש לעבודתנו כל הזמן, במיוחד בעולם המודרני. עד להופעתה של בינה מלאכותית כללית, השווה לבינתו של אדם או אף עולה עליה, יהיה קשה לייצר מחשב שיחליף את כל מטלות המתכנת, אבל זה לא אומר שאי אפשר להחליף עשרה אחוזים מהמטלות שלו כבר היום. מדובר בלא מעט זמן שמתפנה עבורו.

"בכל מקרה, כבר עכשיו מנהלים בכירים בכל מיני סקטורים מתחילים לבדוק, בשקט, בזהירות, עד כמה מנועי הבינה המלאכותית יכולים לבצע מטלות של עובדים זוטרים, מתכנתים למשל. בהרבה מקרים הם מגלים שהם יכולים לבצע את העבודה של הג'וניורס, ואולי להחליף אותם".

מה המשמעות?
"פשוט מאוד: אם יהיה צריך להחליט אם לשכור עוד עשרה מתכנתים מתחילים, או לשכור שמונה ולהשלים את החסר עם מנוע בינה מלאכותית כזה או אחר, ברור לך באיזו אפשרות יבחרו. וזו רק ההתחלה.

"אולי לא ינסו להחליף את כולם מחר בבוקר, אבל מספיק שממלאים 10 אחוזים מהמטלות של בעל מקצוע מסוים כדי שזעזוע יתרחש, והזעזוע כבר קורה. אבל חשוב לזכור שהמטרה היא לא להילחם בטכנולוגיה, אלא להשתמש בה ולמנף אותה כדי להגשים ביעילות רעיונות ושאיפות. כשיצאה המצלמה הראשונה, ציירים אמרו שזו לא אמנות, ובמהרה גילו שדווקא כן".

אתה ישן היטב בלילה?
"לחלוטין. בשנה וחצי האחרונות אני מתכתב עם GPT3 ועם מנועים אחרים ומבקש מהם לפתח עבורי תרחישים לעתיד. אני תופס את הראש ואומר לעצמי - אלוהים אדירים, אני מדבר כאן עם מכונה, שאם היא לא חכמה יותר ממני הרי כבר ברור לאן מתקדמים הדברים. ומצד שני אני אומר: איזו זכות נפלה בחלקי לדבר עם 'הילד' שפיתחה האנושות, שבקרוב יסייע לעולם כולו".

אבל בילד הזה יש משהו שפוגע בחדוות היצירה, ברצון האנושי להתקדם ולכבוש פסגות חדשות. הוא קצת מכבה אותנו.
"אני מסתייע בו כדי לכתוב שירים, והוא כותב לא רע. אבל כשאני שולח לאדם אחר שיר שכתב המנוע, זה לא באמת מרגש, כי אנשים יודעים שאין מאחוריו כוונה אמיתית של אדם אחר, שלוותה במאמץ. אפשר להתחרות באולימפיאדה עם אופנוע ולהשיג את יוסיין בולט, אבל עדיין נעדיף לראות את האצנים רצים בעצמם. וזה נכון גם במוזיקה - הדבר המרגש בה הוא היכולת ליצור למרות כל הקשיים ולהשיג ניצחון אנושי. כך שגם כאשר הבינה המלאכותית תגיע לפסגה שלה, היא לא תוכל להתחרות ביכולת לרגש אנשים בזכות המאמץ שהושקע בהפקת התוצר הסופי".

הבעיה: אנחנו מתים

הן בהיבט היצירתי והן בכלל, אתה סבור כי העניין המשמעותי הוא לאו דווקא צ'ט GPT3 אלא ההשלכות של מנועי ההמשך שלו?
"בהחלט. בראייה לטווח הארוך GPT3 הוא עוד נקודת ציון, לא יותר מזה. זה עוד סימן במסלול שיביא אותנו לבינה מלאכותית כללית ולבינת־על שתדע לעשות כל דבר טוב יותר מבני אדם. הרי מאז ומתמיד הדבר החשוב ביותר לאנושות היה האינטליגנציה, יכולת ההמצאה והחדשנות. בלעדיהן לא היו לנו ההמצאות שקידמו את האנושות למקום שבו היא נמצאת כיום. אלא שלבני אדם יש כמה בעיות: אנחנו מתקשים להגיע להמצאות חדשות ולהטמיע את השימוש בהן, רובנו מתמקצעים רק בתחום אחד - מה שמאט את תהליך ההתפתחות האנושית, ובסוף אנחנו גם מתים.

"אדם רוכש ניסיון לאורך כל חייו, שבראייה היסטורית מהווים רק פסיק קטן, ולאחר כמה עשורים הכל יורד לטמיון, גם משום שהוא מת וגם משום שכאשר הוא מזדקן מוכנותו לאמץ רעיונות חדשים קטנה - וכך הוא מעכב את המשך החדשנות. קשה לנו גם לשתף מידע: אז יש לנו מוח טוב, אבל קשה להפוך אותו לעשרות או למאות מוחות מעולים שיחליפו ביניהם מידע".

והבינה המלאכותית עוקפת את כל הבעיות האלה.
"לכן היא כנראה המהפכה הגדולה ביותר שתדע האנושות. היא תאפשר לנו להגשים את מאוויינו ואת צרכינו: יותר בריאות, שפע, אנרגיה וטכנולוגיה. בינה מלאכותית כללית תוכל ללמוד כל תחום שהאדם יכול ללמוד, להעביר ידע בין תחומים ולהסיק מסקנות אינטגרטיביות. המשמעות היא שכל תובנה, תיאוריה וטכנולוגיה חדשה תהיה כר פורה לבינה המלאכותית, שתבנה ממנה במהירות תיאוריות וטכנולוגיות חדשות בלי שנצטרך להשקיע בכך שנים. אגב, אפשר לטעון ש־GPT3, לפחות בטקסט, הוא כבר בינה מלאכותית כללית".

די ברור מדבריך מה בינה כללית תדע לעשות. תסביר עוד קצת על בינת־על.
"אם איינשטיין היה חי לנצח - תחשוב לאילו תובנות ופריצות דרך היינו מגיעים. אז בינה כזאת יכולה להיות אלף איינשטיינים, ולא רק בפיזיקה אלא בכל תחום. זה יוביל לשיפור עצום ברמת החיים וביכולות של האנושות כולה. מזה אני מתרגש כל כך".

מתי נראה כאן בינת־על הלכה למעשה?
"בסקרים שנערכו בקרב חוקרי בינה מלאכותית, האסיאתים אופטימיים ומאמינים שנראה אותה בתוך כ־25 שנים. החוקרים המערביים פסימיים יותר ונוטים לקבוע את המועד בסביבות 2060. ריי קורצווייל המפורסם סבור שעד 2045 בערך נפתח בינת־על כללית, ואני מקבל את עמדתו".

המוסר האנושי עדיין כאן

למשנתך, שאלה קריטית היא מי ישלוט בבינה המלאכותית העתידית.
"אם היא תרוץ בענן כשירות שמספקת חברה אחת, ברור שהשליטה עליה תהיה ריכוזית. לחלופין, היא עשויה לרוץ במכשירים של כולנו, כפי שקורה היום. אחת הדילמות המרכזיות סביבה היא דילמת הסוכן. על פניו היא יכולה להיות הסוכנת המושלמת, שכן אין לה רצונות משלה, ולכן היא אמורה לייצג אותנו היטב, כמו סוכן טוב. אלא שמישהו פיתח את הבינה הזאת, וממשיך להשקיע בה משום שהוא רוצה כסף. כך שבינות מלאכותיות אינן נטולות הטיות. ההטיות שלהן בהכרח יהיו ההטיות המודעות שחברות מטמיעות לתוכן. הטיות נוספת, חמורות יותר, הן אלה הבלתי מודעות".

למשל, הטיות נגד מיעוטים או הפצת תוכן פוגעני.
"נכון. הסיבה להטיות הללו ולהפצת תכנים פוגעניים היא שהבינה המלאכותית לומדת דפוסים ותבניות מן העבר. כשבינה מלאכותית מייעצת לשופט באשר לסיכוייו של אדם שחור לחזור לפשיעה לעומת אדם לבן, היא תאמר לו שקיים סיכוי גדול יותר שהאדם השחור יחזור לפשיעה. אפשר לקרוא לזה גזענות, אבל האמת היא שתשובתה מסתמכת על דפוסי עבר שהיא זיהתה.

"אלא שבאופן הזה הבינה המלאכותית רק מנציחה מצב קיים ומשמרת פערים חברתיים. ולכן יש לשאול: אם הבינה המלאכותית צודקת בהנחותיה, מה אנחנו כחברה צריכים לעשות לגבי זה? ואיך עלינו להשתמש בידע הזה כדי לעזור לאנשים להשתקם יותר בקלות, מתוך הבנה שהדפוס הנוכחי אינו האידיאלי?"

איך נוודא שלאנשים הנכונים תהיה שליטה על הבינה המלאכותית, ולא רק לקבוצות קטנות שעלולות לעשות בה שימוש מסכן?
"שליטים במדינות טוטליטריות מתענגים על המחשבה על הבינה המלאכותית. ולדימיר פוטין כבר אמר - מי שישלוט בבינה המלאכותית ישלוט בעולם. הרי רודנים למיניהם חרדים ממרד ציבורי, וזה תקף לכל מדינה באשר היא.

"אם הבינה המלאכותית היתה קיימת בתקופת השטאזי או הקג"ב, היא היתה מאפשרת להם להיות בסמארטפונים של כולנו, לנטר ולפקח אחר שיחות או תכנים לא ראויים נגד השלטון. בתרחיש אחר, שמתממש כיום במדינות מסוימות, אם נצלם תמונת מקום שהשלטון לא רוצה שיעלה לכותרות, הבינה המלאכותית שמתפעלת לנו את הסמארטפון תאפשר שיתוף מוגבל שלה, אם בכלל, כך שאיש כמעט לא יראה אותה. אם ממשלים דמוקרטיים יורשו להפעיל את הבינה המלאכותית בדרך שכזו, נמצא את עצמנו בחברה מנוטרת לגמרי, שתזיק לדמוקרטיה, לאזרחים ולחוסן הלאומי.

"לכן, לכל מי ששואל אותי מתי הבינה המלאכותית תכבוש את העולם אני עונה שכרגע אין סיבה לדאוג לגבי הבינה המלאכותית, אלא לגבי מי שישלוט בה, משום שכבר עכשיו היא מתחילה להכווין פעולות ומעשים שלנו: היא מייעצת כמה מסים נשלם, ממליצה אם ניכנס בשערי גבול, וכמעט קובעת כמה זמן אנשים ירצו בכלא. לכן, כאמור, השאלה היא מי מכתיב לבינה המלאכותית את מערכת הערכים שלה ואת שיקוליה. ואם זו מדינה, יידרש עליה פיקוח הדוק - ממשלי, ציבורי, משפטי". 

להצעות ולתגובות: Ranp@israelhayom.co.il

צילומים: GettyImages