בשבוע שעבר פרסמו שני חוקרים של חברת אנתרופיק (חברת האם של קלוד) מאמר שמתאר מציאות שבה בינה מלאכותית יודעת לשפר את עצמה. המאמר, שפורסם תחת הכותרת "When AI Builds Itself", מסביר שבקצב ההתקדמות הנוכחי, בקרוב מערכות בינה מלאכותית יהיו טובות יותר ממהנדסים אנושיים לא רק בכתיבת קוד אלא בפתרון בעיות. ולא רק בפתרון בעיות אלא בזיהוי בעיות והחשוב יותר - בהצעת כיווני מחקר וחשיבה חדשים.
מכונה, לפיכך, לא תחליף אדם אחד או מקצוע אחד כמו שכלכלנים אוהבים לחשוב על זה. אלא החשש הוא מהאפשרות שמודל יתחיל לבנות מודל, לאמן מודל ולשפר מודל. במילים אחרות, שמכונות ייכנסו בעצמן למחזור החדשנות. ככל שחברות הטכנולוגיה וגם ממשלת סין ימשיכו להתחרות, המודלים ימשיכו להשתפר, וקרוב היום שבו מחזור השיפור הטכנולוגי כבר לא יהיה מוגבל לקצב החשיבה והעבודה האנושיים.
אז מה מציעים החוקרים של אנתרופיק? הם מודים בכך שהמרוץ יימשך ושאינם יכולים להתחייב למנגנוני בטיחות לבדם, בזמן שהמתחרות - בגוגל או בסין - ממשיכות לרוץ. לכן הם מציעים לבנות מנגנונים בינלאומיים שיאפשרו האטה או עצירה מתואמת כאשר נגיע לנקודת מפנה מסוכנת.
בנקודת הזמן הזאת מתרחש תהליך מעניין. במקביל לאנתרופיק, גם ארצות הברית ואירופה מתחילות להבין שהמודלים הרגולטוריים שבנו בשנים האחרונות אינם מספקים.
באירופה נחקק חוק בינה מלאכותית מקיף וחודרני שנכנס לתוקף רק בחלקו באוגוסט 2025. בחודשים האחרונים, נאלץ האיחוד לדחות את היישום של חלק משמעותי מהוראותיו. מערכות בינה מלאכותית בסיכון גבוה בתחומי התעסוקה, החינוך, האשראי ואכיפת החוק היו אמורות להיות כפופות למשטר רגולטורי מלא כבר באוגוסט 2026. כעת נדחה המועד לדצמבר 2027. הסיבה איננה שינוי אידיאולוגי, אלא שהאירופים גילו שקל לכתוב כללים אבל קשה לבנות את התשתית שתאפשר לאכוף אותם: תקנים, בדיקות, הערכות תאימות, גופי הסמכה ומנגנוני פיקוח.
מהצד השני של האוקיינוס, מתרחש תהליך הפוך. ביומו הראשון כנשיא ביטל דונלד טראמפ צו נשיאותי של הנשיא הקודם, ג'ו ביידן, שחייב אחריות בשימוש במערכות בינה מלאכותית. טראמפ טען שגישת ביידן חונקת חדשנות והכריז על מדיניות של "אמריקה מובילה בבינה מלאכותית". אלא שלפני כשבועיים חתם על צו נשיאותי חדש, שמאפשר לרשויות ממשל אמריקניות לבחון מודלים מתקדמים לפני שחרורם. לא בשם זכויות אדם, פרטיות או הגנת הצרכן - אלא בשם הביטחון הלאומי. מי שנכנסים לתמונה אינם רגולטורים צרכניים אלא גורמי ביטחון, מודיעין וסייבר.
כך, הוויכוח הגדול של השנים האחרונות לגבי רגולציה של בינה מלאכותית משתנה לנגד עינינו. בשני צדי האוקיינוס כבר ברור שצריך לפקח ושיש סיכונים משמעותיים. השאלה היא האם בכלל ניתן לאסדר טכנולוגיה שמשתנה מהר יותר מהיכולת של ממשלות להבין אותה.
אירופה ניסתה לענות על השאלה באמצעות חוק. ארה"ב מנסה לענות עליה באמצעות מנגנוני פיקוח מעולם הביטחון הלאומי. אנתרופיק מציעה להתחיל לחשוב על הסדרי פיקוח בינלאומיים. שלוש הגישות שונות זו מזו, אבל כולן מבטאות אותה הכרה: בעולם שבו בינה מלאכותית עשויה להשתתף בעצמה בתהליך הפיתוח של הדור הבא שלה, כלל לא ברור האם המוסדות שלנו - ממשלות, רגולטורים, בתי משפט ואפילו חברות הטכנולוגיה עצמן - מסוגלים לתת מענה.
אם אנתרופיק צודקת, ואנחנו צריכים מנגנוני האטה, פיקוח או עצירה של פיתוח בינה מלאכותית מתקדמת, לא יהיה מנוס מלחזור לעולם מושגים שיש בו פחות אתיקה ויותר בקרת נשק, עולם של הסכמים בינלאומיים, מנגנוני אימות, פיקוח חוצה גבולות ובניית אמון בין יריבים.
השיח מתחיל להישמע יותר כמו אסדרת נשק גרעיני בשנות החמישים של המאה העשרים מאשר שיח על טכנולוגיה צרכנית. אלא שהעולם של 2026 איננו העולם שבו נבנו האו"ם, הסוכנות הבינלאומית לאנרגיה אטומית או הסכמי בקרת הנשק של המלחמה הקרה. זהו עולם של תחרות בין מעצמות, של התפרקות מוסדות בינלאומיים ושל מדינות המתבצרות מאחורי גבולות, אינטרסים ושרשראות אספקה. דווקא ברגע שבו הטכנולוגיה דורשת יותר תיאום בינלאומי, הסדר הבינלאומי עצמו מתקשה לייצר אותו.
מנקודת המבט הישראלית, אנחנו עסוקים, ובצדק, במשברים של ההווה. מהמלחמה באיראן ובשלוחותיה, דרך מערכת הבחירות, ועד שאלות של שער הדולר או הטמעת צ'אטבוטים בשירות המדינה. אבל משהו גדול מתרחש סביבנו. ארצות הברית משנה את תפיסת הפיקוח שלה על בינה מלאכותית, אירופה משנה את תפיסת האכיפה שלה, חברות הטכנולוגיה עצמן מתחילות לדון במנגנוני עצירה גלובליים.
אלה דיונים על הכוח, הכלכלה והביטחון של העשורים הבאים. השאלה היא האם מדינת ישראל תגיע אליו כמי שסייעה לעצב אותו, או כמי שהתעוררה מאוחר מדי וגילתה שהכללים כבר נכתבו במקום אחר.
הכותבת היא עמיתה בכירה במכון הישראלי לדמוקרטיה וראש התוכנית לדמוקרטיה בעידן המידע
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו