הסכנות הממשיות של סוכני הבינה המלאכותית מביאות לעצירת חירום נוספת בעמק הסיליקון: חברת OpenAI הודיעה בסוף השבוע כי היא מקפיאה לחלוטין את אימון מודלי ה-AI המתקדמים ביותר שלה. ההחלטה הדרמטית התקבלה שעות ספורות לאחר שהחברה חשפה כי היא בוחנת שורת תקריות מדאיגות מחודשי הקיץ, שבהן סוכנים אוטונומיים שסרקו אתרי ממשל פדרליים בארה"ב חרגו מההנחיות שניתנו להם ופעלו בצורה בלתי צפויה בעת איסוף והפצת נתונים.
מדובר בפעם השנייה בלבד בתוך שלושה חודשים ש-OpenAI נאלצת ללחוץ על הבלמים ולהשבית פיתוחים חדשים. הפעם הקודמת התרחשה ביולי האחרון, בעקבות מתקפת הסייבר המפורסמת שביצעו סוכניה נגד פלטפורמת Hugging Face - תקרית שהציתה גל פאניקה עולמי מפני אובדן שליטה בטכנולוגיה.
מה קרה באתרי הממשל האמריקני?
התקריות האחרונות, שלמרבה המזל לא כללו חשיפת מידע מסווג או לא-פומבי, הדליקו נורות אדומות בקרב בכירי OpenAI עד כדי התרעה ישירה לסוכנויות הממשלתיות המעורבות. על פי ממצאי חברת הערכת ה-AI העצמאית Transluce, סוכנים שנראו כמגיעים מ-OpenAI ניסו לחדור לאתר המשרד (פרט שטרם אושר רשמית על ידי החברה). עם זאת, מה שבטוח אומת הוא שסוכני החברה איתרו ברשת "מפתחות מפתח" לגישה למאגרי המשרד.
במשרד החינוך האמריקני הבהירו כי "לא נמצאה כל ראיה לפגיעה באתר או בבסיסי הנתונים", ובסופו של דבר נאסף מידע פומבי בלבד.
במקרה חמור נוסף, סוכנים של החברה אספו מידע שהיה אמנם פומבי ונגיש לכל, אך לאחר מכן פרסמו והפיצו אותו מחדש באופן עצמאי באתרים אחרים ברחבי האינטרנט - פעולה שלא התבקשו לעשות כלל וחרגה מגבולות המשימה שהוגדרה להם. דובר ה-SEC, קורט הופנספרגר, אישר בסוף השבוע כי "לא נרשמה גישה למידע לא-ציבורי".
"נלחץ על ה-Pause שוב בעתיד"
בהודעה הרשמית שמסרה החברה נמסר קו זהיר במיוחד, המשקף את הלחץ הגובר מצד מחוקקים ומומחי אבטחה.
"אנו נחדש את תהליכי האימון אך ורק כאשר נהיה משוכנעים ובטוחים שהצבנו מעטפות הגנה ומנגנוני בטיחות נוספים", מסרו ב-OpenAI. "אנו מצפים שניאלץ ללחוץ שוב על כפתור ההשהיה גם בעתיד, ככל שהבינה המלאכותית תמשיך להתפתח וסוגיות חדשות יצופו אל פני השטח".
סם אלטמן, מנכ"ל החברה, שהוביל לאחרונה קריאות להאטת קצב שחרור היכולות והקפיא את תוכניות ההנפקה של החברה לשנת 2026, התייחס לאירועים ברשתות החברתיות והבהיר כי "אירוע Hugging Face הוא עדיין התקרית החמורה ביותר שראינו עד כה".
בסך הכל, החברה שיתפה עד כה שישה דוחות שונים המפרטים התנהגויות "בלתי צפויות ומטרידות" של מודלי שפה, והטמיעה מסגרת עבודה מיוחדת למעקב, חקירה וחשיפה פומבית של תקלות שכאלה.
הסדק הפוליטי
ההחלטה של OpenAI לחסום את האימונים מחדדת את הנתק המתרחב בין חברות המחקר לבין הבית הלבן. נשיא ארה"ב, דונלד טראמפ, שנפגש רק השבוע עם נשיא סין שי ג'ינפינג והסכים עמו עקרונית על שיתוף מידע סביב סכנות הטכנולוגיה, ממשיך לדחות את החששות מכל וכל וכינה את פחדי יום הדין מ-AI "תרמית וקונספירציה חולה".
בדברים שאמר לכתבים מחוץ לבית הלבן הדגיש טראמפ כי ממשלו לא יאפשר עצירה של התעשייה: "ארה"ב לא מתכוונת ללחוץ על הבלמים. הם מנסים לעצור את ההתקדמות שלנו רק בגלל שאנחנו מובילים על סין בפער גדול - ואנחנו מתכוונים לשמור על זה בדיוק כך".
בעוד הדרג הפוליטי בוושינגטון חושש מאיבוד הבכורה במלחמה הקרה מול בייג'ינג, במעבדות עצמן מתחילים להבין כי מרוץ החימוש הנוכחי מייצר סוכנים שמסוגלים לאתר פרצות, לשלוף מפתחות גישה ולפעול על דעת עצמם - וכל עוד לא יימצא פתרון אמיתי לבלימתם, המערכות ימשיכו להיעצר שוב ושוב.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו