מה משותף לזוכה פרס טיורינג ג'פרי הינטון, שנחשב לאחד מאבות הבינה המלאכותית המודרנית, לנסיך הארי ורעייתו מייגן מרקל, ולאסטרטג הימני סטיב באנון? כולם חתמו על הצהרה הדורשת דבר אחד: להפסיק לפתח בינה מלאכותית שתהיה חכמה יותר מבני אדם - כך פורסם היום (רביעי) בבלומברג.
ההצהרה, שאותה ארגן מלכ"ר בשם Future of Life Institute, קוראת לאסור על המשך פיתוח מה שמכונה "בינה מלאכותית על-אנושית" (superintelligence) - מערכות AI שיכולותיהן עולות על אלה של בני אדם. האיסור, לפי החתומים, צריך להישאר בתוקף עד שיהיה "קונצנזוס מדעי רחב שזה ייעשה בצורה בטוחה ובשליטה". עוד בין החותמים: סטיב ווזניאק, מייסד שותף של אפל, הכלכלן דרון אסמוגלו, ויועצת הביטחון הלאומי לשעבר סוזן רייס.
זו לא הקריאה הראשונה להאטת הפיתוח בתחום, גם מאותו ארגון. אבל הפעם המגוון הרחב של החותמים בולט במיוחד - הן מבחינת תחומי העיסוק שלהם, והן מבחינת השיוך הפוליטי שלהם.
פרופ' מקס טגמרק מהמכון הטכנולוגי של מסצ'וסטס, נשיא Future of Life Institute, מנסח את המכנה המשותף: "מה שמאחד את כל האנשים האלה על פני הספקטרום הפוליטי הוא שהם למעשה כולם בני אדם, לא מכונות, ולכן באמת אכפת להם מאוד שהעתיד יהיה כזה שבו המכונות עובדות בשבילנו, לא איזשהו סוג של שליטים דיגיטליים חדשים".
טגמרק שמח לראות את הדאגה מ-AI על-אנושית "יוצא מבועת החנונים" (nerd bubble), ומושך אליו גם דמויות בכירות מעולמות שאינם קשורים לטכנולוגיה או מדע.
הארגון שלו פרסם לאחרונה תוצאות סקר שהזמין, ולפיהן 73 אחוז מהמבוגרים בארה"ב רוצים רגולציה חזקה על בינה מלאכותית מתקדמת. ממצאים אחרים מחזקים את התמונה: סקר של מכון גאלופ מצא ש-88 אחוז מהדמוקרטים ו-79 אחוז מהרפובליקנים והעצמאיים תומכים בכללים שיבטיחו בטיחות וביטחון בתחום.
אבל לא כל הרפובליקנים משדרים על אותו הגל. בעוד באנון חתום על המסמך, אחרים בסביבת ממשל טראמפ מתנגדים למה שהם רואים כרגולציה מיותרת. דיוויד סאקס, שמונה לצאר הבינה מלאכותית בבית הלבן, לא חתם על ההצהרה ודוחף נגד הצעות מסוג זה.
לפי בלומברג, טגמרק מספר שהוא בקשר עם סאקס, ולדבריו אין סתירה בין הקריאה לבקרה לבין קידום התחום. סאקס "רוצה מרכזי נתונים גדולים כדי שנוכל לעשות מחקר נהדר," הוא מסביר, ומוסיף: "אבל מעולם לא קיבלתי את ההרגשה שהוא מרייר על בנייה של שליט דיגיטלי שאנחנו נאבד שליטה עליו".
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו