מגפה מהונדסת וסייבר קטלני: בשנת 2015, מעל בימת TED, עמד מייסד מיקרוסופט ביל גייטס והזהיר את העולם מפני נגיף קטלני שיתפשט במהירות בעולם גלובלי לא מוכן - נבואה שהתממשה במלואה חמש שנים מאוחר יותר עם התפרצות מגפת הקורונה, שגבתה על פי הערכות ארגון הבריאות העולמי כ-15 מיליון קורבנות. כעת, מי שהקדיש את העשורים האחרונים לבריאות הציבור ולמיגור מחלות חוזר עם אזהרה חמורה בהרבה: מהפכת ה-AI מתקדמת בקצב מהיר בהרבה מיכולתן של ממשלות להקים חומות הגנה, והשילוב עם פיתוח פתוגנים ונשק ביולוגי עלול להוביל למשבר בריאותי עולמי שיגמד לחלוטין את נזקי הקורונה.
בנאום תקיף שנשא בפסגת Future of AI של עיתון ה"פייננשל טיימס" בלונדון, הבהיר מייסד מיקרוסופט כי החשש הגדול ביותר שלו כעת אינו נוגע רק ליכולות הטכנולוגיות המזנקות - אלא לריק המנהיגותי בוושינגטון. לדבריו, סירובו העיקש של ממשל טראמפ לקבוע כללי פיקוח פדרליים מחייבים, תוך העדפת גישה שבה ענקיות הטק מפקחות על עצמן, מותיר את העולם במבוי סתום ומסוכן.
כשה-AI מוחק את החסמים לפיתוח נשק ביולוגי
בלב הדאגה של גייטס עומדת היכולת של מודלי שפה גדולים לגשר על פערי ידע מדעי. אותם אלגוריתמים שמסוגלים כיום לפענח מבני חלבונים, לנתח מיליוני מאמרים רפואיים ולהאיץ גילוי תרופות מצילי חיים, עלולים לשמש באותה מידה גורמים עוינים וארגוני טרור כדי להתגבר על חסמים טכניים בייצור נגיפים קטלניים ועמידים לטיפול.
הסיכון מתחדד במיוחד סביב מודלים פתוחים - מערכות AI שהקוד והמשקולות שלהן זמינים לכל דורש ברשת. במודלים כאלה, גורם זדוני יכול להסיר בקלות את מנגנוני הבטיחות שהוטמעו במקור כדי למנוע מענה לשאלות מסוכנות, ולהפוך את הכלי למדריך מעשי להרכבת חומרים ביולוגיים או לחדירה ממוקדת לתשתיות לאומיות קריטיות.
גייטס שיבח במפתיע את מעבדת ה-AI אנתרופיק, שציינה בתשקיף ההנפקה שלה בוול סטריט סיכונים קטסטרופליים של אובדן שליטה במודלים, וכינה את שקיפותה "יוצאת דופן", אך הדגיש כי מוסר תאגידי וולונטרי הוא טיפה בים התחרותי.
מה ההבדל בין "מודל סגור" ל"מודל פתוח" ומדוע זה מדאיג?
מודלים כמו ChatGPT של OpenAI או קלוד של אנתרופיק נחשבים מודלים סגורים: הגישה אליהם נעשית דרך אתר או שרת של החברה, והחברה מפעילה מסננים בזמן אמת שמונעים מהמודל לענות על שאלות בנושאי נשק או סייבר התקפי. אם תנסו לשאול איך להרכיב רעל, המערכת תסרב ותחסום את השיחה.
לעומת זאת, מודל פתוח (דוגמת LLaMA של מטא או מודלים קהילתיים שונים) מאפשר להוריד את קובצי המוח של האלגוריתם ישירות למחשב האישי. ברגע שהקוד נמצא בידי המשתמש, מתכנת מיומן יכול "לנתח" את המודל, למחוק ממנו את פקודות הסירוב והמוסר, ולהשתמש בו באופן חופשי ומנותק מרשת האינטרנט לכל מטרה - ללא כל יכולת ניטור חיצונית.
העימות החזיתי מול טראמפ
החלק הנפיץ ביותר בדבריו של גייטס הופנה אל עבר הבית הלבן. הנשיא האמריקני דונלד טראמפ דוגל בדה-רגולציה מקיפה, דחה יוזמות בינלאומיות של מדינות ה-G20 להסדרת כללי אתיקה ובטיחות ב-AI בטענה שמדובר ב"מזימה גלובליסטית", וטען כי על הממשל לתת לחברות הטכנולוגיה חופש פעולה מוחלט כדי לנצח את סין.
עבור גייטס, התפיסה לפיה חברות מסחריות ירסנו את עצמן מרצון היא אשליה מסוכנת: "ברגע ששחקניות רבות מתחרות ביניהן על הובלת השוק, אף חברה לא תעצור מרצונה ותסתכן באובדן הבכורה", הזהיר. "הדרך היחידה להבטיח סטנדרטים אחידים ואחריותיות עוברת בידי הממשלה. הפתרון היחיד הוא הממשל".
לדבריו, היעדרותה של ארה"ב ממאמצי הפיקוח הבינלאומיים תוקעת את העולם כולו, שכן רוב ענקיות הטק והמודלים המובילים פועלים בשטחה: "אין שום ערך לפעולה בינלאומית אם ארה"ב אינה חלק ממנה. לכן אנחנו נמצאים כרגע במבוי סתום".
כדי להיערך לאיומים המיידיים, קרא גייטס לממשלות להקים מנגנוני ביקורת חיצוניים לבדיקת רמת הבטיחות של המודלים, לצד הרחבת מערכות הניטור הבריאותיות הגלובליות - באמצעות בדיקות שוטפות של דגימות אוויר, ביוב ודם, שיאפשרו לאתר התפרצויות חריגות ומתקפות ביולוגיות עוד לפני שהן מתפשטות לאוכלוסייה.
מבחן המציאות
גייטס מעריך כי קצב הפיתוח הטכנולוגי רק ילך ויואץ: להערכתו, OpenAI ואנתרופיק צפויות לשחרר מודלים חדשים עוד לפני סוף השנה הנוכחית, כאשר שתי השקות ענק נוספות מתוכננות כבר ל-2027 - נקודת זמן שבה היכולת של מערכות לפעול מחוץ לשליטה אנושית תהפוך לאיום מיידי ומוחשי.
לצד זאת, גייטס נזהר שלא להצטייר כנביא זעם טכנולוגי בלבד והזכיר כי ל-AI יש פוטנציאל לפתור את צווארי הבקבוק במערכות הבריאות, לקצר תורים בבתי חולים ולהביא תרופות למחלות חשוכות מרפא. הוא אף הביע תמיכה בהטלת מסים מוגברים על עשירי העל כמענה לטלטלות התעסוקתיות שיביא ה-AI, וציין כי שוחח עם מייסדי מעבדות הבינה המלאכותית על ניתוב הונם לפילנתרופיה עולמית.
אולם המסר המרכזי של גייטס נותר חד ונטול פשרות: המדע כבר חוצה את גבולות הבטיחות, אך המדינאים עדיין שבויים במאבקים פוליטיים קצרי טווח. אם וושינגטון לא תתעשת ותחליף את הסיסמאות על "שוק חופשי" במנגנוני פיקוח הדוקים על הקוד והמעבדות, המגפה הבאה לא תגיע מעטלף בשוק רטוב - אלא משרת מחשב בלתי מפוקח.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו