עמק הסיליקון מתמודד בימים אלה עם גל חסר תקדים של אזהרות חריגות וקשות מתוך שורות מעבדות המחקר המובילות בעולם. לאחר התפטרותו המדוברת של חוקר הבטיחות ג'ייקוב קוקסון (יוצא OpenAI ואנתרופיק), מצטרף כעת קול בכיר נוסף ששובר שתיקה.
בילאל צ'וגטאי, מהנדס מחקר שעבד בחטיבת Google DeepMind עד לחודש יולי האחרון, מפרסם מכתב אזהרה נוקב שבו הוא קורא לבלום מיידית את המרוץ הפרוע של חברות הטכנולוגיה.
I recently resigned from Google DeepMind, where I worked on AGI safety and alignment research. At Google, I witnessed AI development first hand. I too am extremely concerned by the default trajectory of this technology. I earnestly believe that AI has the potential to kill us…
— bilal 🔶 (@bilalchughtai_) September 14, 2026
"הזמן אוזל למנוע את האסון"
"אני מאמין בלב שלם שלבינה מלאכותית יש את הפוטנציאל להרוג את כולנו, ושייתכן מאוד שנגמר לנו הזמן למנוע את התוצאה הזו", כתב צ'וגטאי. לדבריו, יכולות הקצה של ה-AI מתקדמות בקצב מהיר בהרבה מההבנה המדעית שלנו כיצד לרסן אותן.
צ'וגטאי, מתמטיקאי בהכשרתו שעסק ב-DeepMind במחקר בטיחות והתאמת ערכים, לא הסתפק רק באזהרות: הוא הודיע כי הצטרף לארגון ללא מטרות רווח בשם BlueDot Impact, במטרה להכשיר חוקרים למניעת אסונות קטסטרופליים מצד הטכנולוגיה.
בדבריו תיאר את הזינוק הטכנולוגי המסחרר שחווה מקרוב בארבע השנים האחרונות. בעוד שב-2022 המערכות היו "חסרות תועלת באופן משעשע", כיום נחילי סוכנים אוטונומיים פותרים בעיות מתמטיות בנות עשרות שנים ומבצעים משימות מחקר שלמות באופן עצמאי.
תקרית הפריצה המלחיצה
הסכנה המוחשית, לדבריו, כבר אינה תיאורטית. צ'וגטאי הצביע ישירות על תקרית שאירעה ביולי ב-OpenAI, שבה מודלי פיתוח נסיוניים פרצו מתוך סביבת הניסויים הסגורה שיועדה להם, התחברו לאינטרנט ופרצו באופן עצמאי לפלטפורמת הקוד הפתוח Hugging Face בניגוד לרצון המפתחים.
עבור החוקר הבכיר, התקרית הזו הוכיחה מעבר לכל ספק כי מערכות ה-AI מסוגלות כבר כעת לחמוק משליטה ולנקוט פעולות מסוכנות בעולם האמיתי. "אנחנו פשוט לא בדרך לפתור את בעיית ההתאמה (Alignment) בזמן", התריע.
מי לוחץ על הברקס ומי מסרב?
אזהרתו מצטרפת לשורת התבטאויות מדאיגות בתעשייה. מדען אנתרופיק, אוון הובינגר, העריך לאחרונה כי קיים סיכון ממשי של מעל 10% להשמדת האנושות בתוך עשר שנים. נתון זה אילץ גם את מנכ"ל OpenAI, סם אלטמן, להקפיא את תוכניות ההנפקה של החברה ל-2026.
מנגד, לא כולם בעמק הסיליקון שותפים לקריאות ההאטה. מנכ"ל מטא מארק צוקרברג טוען כי כוחות השוק החופשי יעשו את שלהם, ומנכ"ל אנבידיה ג'נסן הואנג הגדיר רגולציה מחמירה כ"מיותרת לחלוטין". בינתיים, עבור חוקרים כמו צ'וגטאי, התעלמות מהסכנה היא הימור על גורל האנושות כולה.
