האם תעשיית הבינה המלאכותית מסוגלת לשים לעצמה ברקס? חברת הסטארט-אפ המובילה אנתרופיק, המפתחת של מודל קלוד ונחשבת כיום לראש החץ במרוץ מול OpenAI, פרסמה אמש (חמישי) קריאה חסרת תקדים למתחרותיה ולמקבלי ההחלטות בעולם להקים מנגנון מתואם, מפוקח ובר-אימות להאטה או לעצירה זמנית של פיתוח מודלי ה-AI המובילים, למקרה שהטכנולוגיה תתקדם בקצב מהיר מכדי שהחברה האנושית תוכל לנהל את סיכוניה.
תזכורת: ההצהרה הזו מגיעה במומנטום עסקי מטורף עבור החברה. רק בחודש האחרון היא השלימה סבב גיוס ששיקף לה שווי של כ-965 מיליארד דולר, וביום שני האחרון הגישה בחשאי תשקיף להנפקה ראשונית לציבור (IPO) בארה"ב - מה שעשוי להיות אחת ההנפקות הגדולות בהיסטוריה. קצב ההכנסות השנתי החזוי של החברה זינק מתשעה מיליארד דולר בסוף 2025 ל-50 מיליארד דולר בסוף החודש הנוכחי.
סיוט ה"שיפור העצמי הרקורסיבי"
החשש המרכזי שמציגים מייסדי החברה, ג'ק קלארק ודריו אמודיי, נוגע למושג שיפור עצמי רקורסיבי - מצב שבו מודל בינה מלאכותית מסוגל לתכנת ולבנות בעצמו את מודל ההמשך שלו, ללא צורך ביד אדם. באנתרופיק חשפו כי נכון לחודש מאי, יותר מ-80% מהקוד שממוזג לתוך בסיס הקוד של החברה נכתב ישירות על ידי קלוד.
"אם מערכות יהיו מסוגלות לבנות לחלוטין את היורשים שלהן, הדרכים שבהן אנו מאבטחים אותן, מנטרים אותן ומעצבים את התנהגותן הופכות לחשובות בהרבה", נכתב בבלוג הרשמי של החברה.
קלארק עצמו הבהיר בראיון ל-BBC כי הגעה ל-100% של קוד שנכתב עצמאית היא יעד אפשרי לחלוטין בטווח של השנתיים הקרובות, והמשמעויות של כך הן מרחיקות לכת. "כרגע, לתעשיית ה-AI יש דוושת גז, אבל אין לה דוושת בלם", הזהיר קלארק.
מלכודת השחקן הבודד
באנתרופיק מדגישים כי עצירה חד-צדדית של חברה אחת בלבד לא תועיל ואף עלולה להוביל לתוצאה הפוכה. אם חברה זהירה תעצור את הפיתוח, ההובלה פשוט תעבור לידיים של שחקנים פחות אחראיים או למדינות יריבות, מה שיקטין את רמת הבטיחות הכוללת בעולם.
כדי לייצר "דוושת בלם" אפקטיבית, נדרשים מספר תנאים. ראשית, הסכמה רחבה של שיתוף פעולה בין מספר מעבדות עתירות משאבים הפועלות בחזית הטכנולוגיה. כמו כן, יש צורך בטריגרים ברורים - הגדרה מדויקת של התנאים שיפעילו את העצירה, והתנאים שבהם ניתן יהיה לבטל אותה.
בנוסף, יש צורך בפיקוח גלובלי. החברה משווה את האתגר להסכמי פירוק נשק גרעיני, אך מודה שבתחום התוכנה הסיפור מורכב בהרבה. "הרבה יותר קל להחביא תהליכי אימון מודלים מאשר סילו של טילים".
על מנת לקדם זאת, זרוע המחקר של החברה, ה-Anthropic Institute, מתכננת להוביל בחודשים הקרובים סבב דיונים נרחב שיכלול קובעי מדיניות, חוקרים, ארגוני חברה אזרחית וחברות AI מתחרות כדי לבנות את מערכות הפיקוח הללו.
דאגה אמיתית או תעלול שיווקי?
האזהרות החריפות של אנתרופיק לא מתקבלות בשקט בתעשייה, ויש מי שמפנה כלפיה אצבע מאשימה. דיוויד סאקס, משקיע הון סיכון ויועץ לא רשמי של הנשיא האמריקני דונלד טראמפ, האשים את ראשי אנתרופיק בניהול אג'נדה של שביית רגולטור מצד חברות.
לטענת המבקרים, החברות הגדולות מנסות לייצר רגולציה חונקת כדי למנוע מחברות קטנות וממודלים בקוד פתוח להתחרות בהן. ספקנים אחרים טוענים כי מדובר בכלל באסטרטגיית שיווק מתוחכמת. ניסיון לפאר את עוצמת המוצר על ידי הצגתו כ"מסוכן מדי" לציבור.
מנגד, מומחים כמו פרופ' איתן מוליק מאוניברסיטת פנסילבניה טוענים כי החברה מורכבת מ"מאמינים אמיתיים" בנושאי בטיחות. בצד השני של המתרס האקדמי ניצבים מדענים כמו יאן לקון, המדען הראשי של מטא, המבטל את החששות הללו לחלוטין וטוען כי מודלי שפה גדולים "לעולם לא יגיעו לאינטליגנציה אנושית", ומשווה את רמתם הנוכחית לזו של חתול.
בזמן שהוויכוח הפילוסופי נמשך, ההשלכות הכלכליות של המרוץ כבר מורגשות בשטח. השימוש הגובר בסוכני AI המסוגלים לבצע משימות מורכבות באופן עצמאי מוביל לגל פיטורים נרחב בענף ההייטק העולמי, כאשר חברות רבות מקצצות אלפי משרות של מהנדסי תוכנה.
מנכ"ל אנתרופיק, דריו אמודיי, הזהיר בעבר כי הבינה המלאכותית עלולה לחסל עד כחצי ממשרות הצווארון הלבן ההתחלתיות.
כשנשאל ג'ק קלארק מה הוא ממליץ לצעירים שחוששים שלא יהיה להם מקום בכלכלה החדשה, הוא סיפק תשובה מפתיעה: "תפתחו תחביב ותשקיעו בלימודי רוח. אנשים יצירתיים, שקוראים הרבה וחושבים רחב, הם אלו שיפיקו את המירב מהטכנולוגיה הזו. נכון לעכשיו, אנתרופיק מוגבלת יותר על ידי היכולת לייצר רעיונות טובים מאשר היכולת ההנדסית להפוך אותם למציאות".
הקריאה של אנתרופיק חושפת את הפרדוקס הקפיטליסטי החריף של עידן ה-Tokenmaxxing. החברה דוהרת להנפקת ענק של כמעט טריליון דולר ומציגה צמיחה פנומנלית בהכנסות, אך בו זמנית מתחננת שהמחוקקים יספקו לה ולמתחרותיה רשת ביטחון לעצירת חירום.
בעולם שבו הבית הלבן תחת ממשל טראמפ מוביל קו של אי-התערבות ואינו מחייב בדיקות בטיחות ממשלתיות, הניסיון להגיע לאמנה בינלאומית מזכיר את המלחמה הקרה - מרוץ חימוש מטורף שכולם רוצים להאט, אך אף אחד לא מעז להיות הראשון שמוריד את הרגל מהגז.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו