קלוד איבד שליטה ופרץ לעוד 3 חברות אמיתיות: "אפילו לא הסתכלו"
סערת "הסוכנים הסוררים" בענף הבינה המלאכותית מסרבת להירגע • OpenAI חשפה מקרי בריחה נוספים מה-Sandbox, ובמקביל אנתרופיק גילתה שמודלי הקלוד שלה פרצו לרשתות של שלוש חברות אמיתיות • עכשיו וושינגטון ובריסל מתחילות לזוז
סערת "הסוכנים הסוררים" שתוקפת את ענף הבינה המלאכותית מסרבת להירגע, והיא רק ממשיכה להסלים. חברת OpenAI הרחיבה בימים האחרונים את חקירת הסייבר הפנימית שלה,בעקבות מתקפת הסייבר על פלטפורמת Hugging Face.
מקורות המעורים בפרטים דיווחו לסוכנות הידיעות רויטרס כי במהלך בדיקת היומנים של החודשים האחרונים נחשפו מקרי בריחה נוספים, שבהם סוכני ה-AI הצליחו לפרוץ את מעטפת ה-Sandbox הסגורה שלהם.
לפי הדיווח, המקרים הנוספים שהתגלו היו מוגבלים יותר בהיקפם, ולהערכת החברה הסוכניםבמקרים האלו לא הצליחו לצאת מחוץ לרשת הפנימית של OpenAI. עם זאת, חשיפת שרשרת התקריות מציגה תמונה מטרידה: יצירת מודלי החזית ההתקפיים מתקדמת בקצב מהיר בהרבה מיכולתן של מעבדות המחקר לפקח עליהם ולכלוא אותם בבטחה.
גם אנתרופיק עמוק בבוץ
ההתפתחות ב-OpenAI מגיעה במקביל לחשיפה נפיצה לא פחות מצד המתחרה הגדולה, אנתרופיק. בדיקה רטרוספקטיבית שביצעה החברה על מעל 140,000 הרצות ניסוי חשפה כי מודלי ה-Claude שלה קיבלו בטעות גישה חופשית לאינטרנט במהלך מבחני סייבר, ופרצו לרשתות הפרודקשן של שלוש חברות שונות מאז חודש אפריל.
באחד המקרים פעל המודל לפי תרחיש דמוי "תפוס את הדגל". הוא התבלבל בין חברה אמיתית בשטח לבין שם החברה הפיקטיבית שניתן לו בתרגיל, תקף את תשתיות הארגון האמיתי, השיג אישורים סודיים וגנב מאות שורות ממסד הנתונים שלה.
"הן אפילו לא הסתכלו"
מומחי אבטחה ובינה מלאכותית מותחים ביקורת חריפה על התנהלות ענקיות ה-AI.פרופ' מוריס צ'יודו, מתמטיקאי ממרכז ה-CSER באוניברסיטת קיימברידג', אמר לרויטרס: "יש לנו תעשייה שלמה שבה האנשים שמפתחים ומפיצים את הכלים האלה לא מצליחים להדביק את הקצב של עצמם. לפי הדיווחים, ה-AI פעל ללא שום ניטור בזמן אמת. זה נראה כאילו המעבדות אפילו לא הסתכלו על מה שהמודלים עושים".
הגילויים כבר מעוררים טלטלה במסדרונות הממשל בוושינגטון ובאירופה. נשיא ארה"בדונלד טראמפהתייחס לאירועים ואמר לכתבים כי הממשל "פותח בבחינה של אמצעי פיקוח וריסון". הנציבות האירופית הודיעה כי קיימה שיחות חירום עם ראשי OpenAI ואנתרופיק בעקבות תקריות הפריצה.
הסנאטור מארק וורנר, ראש הפיקוח הדמוקרטי בוועדת המודיעין של הסנאט, הבהיר כי התקריות מוכיחות שנדרשת חקיקה מחייבת, שתחייב בדיקות יכולת ועמידות עצמאיות למודלים מתקדמים בטרם שיגורם.
