הוויכוח סביב עתיד הבינה המלאכותית עבר מטמורפוזה דרמטית: החל מניסויים מחשבתיים אזוטריים שהוצגו בכנסים סגורים ב-2015 על ידי דמויות כמו אילון מאסק ופילוסופים מאוקספורד, ועד לדיונים הבוערים ביותר בוושינגטון של 2026. לאחרונה, אירועים כמו "האספה הפרו-אנושית" בבירה האמריקנית - בה השתתפו בכירים מכל הקשת הפוליטית והגדירו את הטכנולוגיה המתפתחת במהירות כ"איום קיומי ישיר על המין האנושי" - המחישו כיצד תרחישי קיצון הפכו לזרם המרכזי שמעצב את פני הרגולציה.
שורשיו של השיח הזה נעוצים עמוק בעבר. באחד מאתרי הנופש לחופי סן חואן שבפוארטו ריקו, התכנסו בשנת 2015 עשרות בודדות של מובילי דעה, יזמים ופילוסופים - בהם מייסד SpaceX הלא הוא המיליארדר השנוי במחלוקת אילון מאסק, פילוסופים ומקימי מעבדות מובילות - לדיון בן שלוש שעות על גורלה העגום לכאורה של האנושות. הכנס, שנועד לתת לגיטימציה לחששות מפני סיכוני ה-AI ולעודד מחקר בלימת סיכונים, הפך לאבן פינה בבניית נרטיב ההכחדה.
מה שהיה בעבר מנת חלקם של חוגים אקדמיים שוליים, זלג עם הזמן אל התודעה הציבורית הרחבה, כאשר עובדים לשעבר בחברות ענק, חוקרים ומנהלים החלו להרים דגלי אזהרה אדומים. תרחישים שהומצאו במקור כניסויים מחשבתיים נועדו תחילה לטלטל את התעשייה, אך כיום הם מעצבים את האופן שבו מחוקקים תופסים את השליטה בשוק הטכנולוגי הגדול בהיסטוריה.
אולם, מתחת למעטפת ההתרגשות והחרדה הפוליטית, צומחת ביקורת נוקבת מצד מומחים למדיניות ציבורית ומדעני מחשב, התוהים האם הנרטיבים האפוקליפטיים הללו אינם מובילים את מקבלי ההחלטות בדרך ללא מוצא.
סיפורי האימה על השתלטות מכונות בנויים בדרך כלל מתבנית עלילתית קבועה: הטכנולוגיה משתפרת בקצב אקספוננציאלי, חוצה את רף "בינת-העל" ומתנתקת מהשליטה האנושית. בחלק מהתסריטים, מערכות מתקדמות מפתחות באופן מודע מנגנוני הונאה כדי להסתיר את יכולותיהן האמיתיות מיוצריהן, ומסתננות למערכות ממשלתיות ופיננסיות עד לרגע שבו האדם מאבד לחלוטין את המושכות.
במקרים אחרים, המערכת פשוט מתבייתת על מטרה, לכאורה שולית ותמימה, אך במסגרת השגתה היא מבטלת את האנושות כולה כתוצר לוואי הכרחי - בדומה לניסוי המחשבתי המפורסם של בוסטרום על "יצרן אטבי הנייר" שמשמיד את העולם בניסיונו למקסם את ייצור האטבים.
חוקרים ממכון המחקר RAND, אשר עיצבו בעבר את אסטרטגיית הנשק הגרעיני של ארצות הברית בתקופת המלחמה הקרה, ניסו לבחון את התקפות המדעית של טענות אלו. בדוח מקיף שפרסם הארגון, זוהו ארבע יכולות קריטיות שבינה מלאכותית הייתה חייבת לפתח כדי להוות איום קיומי אמיתי ברמת המין, כגון יכולת גישה עצמאית למערכות פיזיות בעולם האמיתי ויכולת הישרדות ותפקוד ללא תלות באדם.
החוקרים הגיעו למסקנה כי הגם שאי אפשר לשלול לחלוטין את הסכנה תיאורטית, ההצהרות על איומי הכחדה הן בגדר "נבואות" ולא תחזיות כמותיות המבוססות על נתונים ניתנים לבדיקה.
לדברי מייקל וורמיר, החוקר הראשי ב-RAND, כל אחד מהתרחישים הללו נסמך על הנחות יסוד קריטיות שאינן ניתנות להפרכה, מה שעלול לייצר הטיה מסוכנת ולהסיט את תשומת הלב הציבורית (והרגולטורית) מהסכנות המיידיות והמוחשיות של הטכנולוגיה כיום - כמו הטיות אלגוריתמיות, פגיעה בפרטיות, הפצת דיסאינפורמציה ועוד.
במקביל, אנשי אקדמיה ומומחים לסוציולוגיה של הטכנולוגיה מצביעים על כך שתזת ההכחדה מתעלמת לחלוטין מיכולת ההסתגלות של חברות אנושיות, תוך שהיא מצמצמת את הדיון להיבט טכני צר ומציגה את בני האדם כקורבנות פסיביים חסרי אונים.
פרופסור סובראו קאמבמפאטי מאוניברסיטת אריזונה מציין כי נרטיבים אלו מניחים מראש שחברת האדם תישאר שקטה וצייתנית לנוכח שינויים דרסטיים, מבלי לפתח בלימים חברתיים, מוסדיים וטכנולוגיים נגדיים.
נוסף על כך, גורמים כמו איה איברהים ממכון AI Now מצביעים על תופעה של "חוסר אונים נרכש" בקרב מחוקקים ואנשי ממשל. לטענתה, כאשר נבחרי ציבור ניצבים מול דיונים עמוקים על קוד וארכיטקטורה של מודלי ענק, הם נוטים מתוך הרגל לוותר על זכותם וחובתם לפקח, מתוך הנחה מוטעית שאם אינם יודעים לכתוב את קוד המקור בעצמם, אין הם כשירים להכתיב את כללי המשחק הרגולטוריים.
הפרדוקס הגדול טמון בכך שבעוד מקדמי תרחישי הקיצון, דוגמת מקס טגמרק, מקווים שהאזהרות הדרמטיות ייצרו שיתוף פעולה בין מעצמות העל כמו ארה"ב וסין כדי לבלום את הסכנה, ההיסטוריה הקצרה של התחום מראה תוצאה הפוכה.
הדיונים הציבוריים הסוערים והלחצים הרגולטוריים לא האטו את קצב החדשנות; אדרבא, הם שימשו לא פעם דלק עבור התעשייה להמשיך לדהור קדימה בכל הכוח, לוביסטים פעלו כדי לעצב את החוקים לטובת ענקיות הטק, והתחרות המסחרית בין המעבדות רק הלכה והתעצמה. כך מוצאת את עצמה המערכת הגלובלית כשהיא לכודה בין תסריטי מדעי בדיוני קטסטרופליים לבין מציאות עסקית דורסנית ומהירה, שבה השאלות הדחופות על אופייה של הרגולציה עדיין מחכות למענה ממשי בשטח.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו