המכונה כותבת והאדם חותם

מאחורי רבות מהיצירות שאנחנו צורכים כיום מסתתר גורם נוסף: מכונה. שותפה חרוצה, בלתי נראית, שקיבלה פקודה, ניתחה נתונים, הציעה ניסוחים, תיקנה, תרגמה, ולעתים יצרה בעצמה. השאלה הגדולה של העשור הקרוב איננה האם המכונה כותבת - היא כבר כותבת - השאלה היא, איך נדע?

הכרזתו של השייח' חמדאן בן מוחמד, נסיך הכתר של דובאי, על השקת מערכת סימון בינלאומית לשיתופי פעולה בין אדם לבינה מלאכותית, עשויה להיזכר בעתיד כצעד מכונן. רגע של מודעות עולמית לעובדה הפשוטה: תוכן, כל תוכן, אינו עוד תוצר של אדם בלבד. הוא תוצר של מערכת. לעתים זו מערכת היברידית, לעתים מערכת אוטומטית לחלוטין, ולעתים זו מערכת שבה האדם הפך לעורך משנה של תבונה מלאכותית.

המערכת שפיתחה קרן העתיד של דובאי (Dubai Future Foundation) אינה סתם טכנולוגיה. היא מסגרת מוסרית־אינפורמטיבית, ניסיון ראשוני לתרגם שאלה פילוסופית לתשתית מעשית. יש בה חמישה אייקונים המציינים את מידת המעורבות של הבינה המלאכותית בתהליך היצירה (מ"אנושי בלבד" ועד "מכונה בלבד"), ותשעה אייקונים משניים המצביעים על תחום ההתערבות: כתיבה, תרגום, עיצוב, הדמיה, איסוף מידע ועוד. זו אינה עוד אפליקציה, זה קוד של אחריות.

ניתן לומר שזהו שלב נוסף במהפכת המעמד האנושי. אם המהפכה הקופרניקנית הדיחה את האדם ממרכז היקום, והמהפכה הדרוויניסטית הדיחה אותו ממרכז הביולוגיה, הרי שהמהפכה האלגוריתמית מדיחה אותו ממרכז הידע. האדם כבר לא מקור הידע, אלא מבקרו, אוצרו, או מנווטו. המהלך של דובאי הוא ניסיון נועז להציב גבול מוסכם בתווך ההולך ומיטשטש בין "מחשבה" אנושית לבין "חישוב" מכונתי.

מהי החשיבות של סימון כזה?

ראשית, הוא משיב לאדם את יכולת ההבחנה. הקוראת או הקורא, בין אם הם חוקרים, עיתונאים או אזרחים מן השורה, זכאים לדעת האם מה שהם קוראים הוא תוצאה של תודעה אנושית, סינתזה משותפת עם אלגוריתם, או תוצר אוטונומי של מערכת למידת מכונה. במילים אחרות: השקיפות הופכת לזכות דמוקרטית חדשה. הסימון הוא תעודת הזהות של התוכן.

שנית, המערכת הזו עשויה ליצור את מה שחסר כיום: אמון. בעולם שבו גבולות היצירה מיטשטשים, דווקא האמירה הפשוטה "זו יצירה בסיוע מכונה" יכולה לחזק את האמינות. במקום לחשוש או להסוות, מכירים בשותפה החדשה, באופן פומבי, גאה, ומדויק. כך יוצרים תרבות של אחריות במקום תרבות של זיוף.

בכל מהפכה טכנולוגית, היו מי שזיהו את הצורך בגבולות חדשים: התקנונים של הדפוס, חוקי זכויות היוצרים, הקודים האתיים של העיתונות. ייתכן שדווקא דובאי, בזכות היותה קטנה, ריכוזית, שאפתנית, יכולה להציע לעולם ניסוי כלים גלובלי

שלישית, המהלך של דובאי אינו רק טכנולוגי, הוא גיאופוליטי. הוא מציב את דובאי, ובמידה רבה את איחוד האמירויות, בחזית האתיקה של עידן הבינה. זהו רגע שבו עיר מדינה, שמזוהה בעיקר עם נפט, חדשנות נדל"נית ופרויקטים ראוותניים, מציעה לעולם כלי פילוסופי. במקום לייצר רק מגדלים, היא מייצרת גבולות מוסריים. במקום לייבא תשתיות, היא מייצאת סטנדרטים.

זו לא פחות מהצעה לסדר עולמי חדש של אמון דיגיטלי .יש שיאמרו שזה רק גימיק ושהעולם יתקשה לאמץ מערכת סימון אוניברסלית, שהמרדף אחרי יעילות ומסחור גובר תמיד על עקרונות. אך ההיסטוריה מלמדת אותנו אחרת. בכל מהפכה טכנולוגית, היו מי שזיהו את הצורך בגבולות חדשים: התקנונים של הדפוס, חוקי זכויות היוצרים, הקודים האתיים של העיתונות. ייתכן שדווקא דובאי, בזכות היותה קטנה, ריכוזית, שאפתנית, יכולה להציע לעולם ניסוי כלים גלובלי.

בסופו של דבר, יש כאן תזכורת עמוקה. כל יצירה אנושית, גם אם הוזנה על ידי מכונה, נושאת עמה אחריות. והמכונה, מוכשרת ככל שתהיה, אינה נושאת באחריות. היא אינה יודעת חרטה. היא אינה יודעת הקשר. האחריות נותרת שלנו, בני האדם. ועל כן, כל עוד נשתמש במכונה, נזדקק לסימון שיזכיר מי אחז בעט, מי הקליד את ההוראות, ומי בחר ללחוץ על כפתור "פרסם ".דובאי הציבה רף חדש.  

השאלה כעת היא האם העולם ירים את הכפפה, או ימשיך להעמיד פנים שהעט נותר בידינו בלבד.