פרצו למערכות הפנימיות של ChatGPT - בעזרת קלוד
צוות עצמאי של שלושה חוקרים ניצל כלי AIמתקדמים כדי להשתלט על אסימוני גישה ולהגיע לקוד הרגיש של OpenAI • השלושה הצליחו לנצל באג צד שלישי, לחדור לחשבונות עובדים ולהציץ בסודות האלגוריתמיים של החברה • "אני לא חושב שאנחנו חזקים כמו גורמי איום סיניים - אנחנו בסך הכל בחורים עם מנויים ל-Codex"
תעשיית הטכנולוגיה סוערת בעקבות חשיפה של "הוול סטריט ג'ורנל" המלמדת עד כמה קשה להגן על מערכות מחשוב בעידן שבו הבינה המלאכותית הופכת לכלי נשק הנדסי. צוות עצמאי של חוקרי אבטחה מחברת Hacktron AI הצליח לפרוץ לחשבונות של עובדי OpenAI, לקרוא קוד פנימי רגיש ואף להציע שינויים במאגר הסודי של החברה (הידוע כ-"Monorepo") - וזאת באמצעות שימוש בקלוד של המתחרה הגדולה אנתרופיק.
מבאג נקודתי ועד לגישה לחשבונות עובדים
האירוע התחיל ב-23 ביולי, כאשר החוקרים איתרו פגיעות במערכת Discourse המשמשת לאירוח פורום הקהילה של OpenAI, דרך טיפול בקובצי תמונה. החוקרים נעזרו בגרסה מתקדמת של Claude Opus, וביקשו מהמודל לכתוב קוד שינצל את הבאג. לאחר שחרור גרסת Opus 5 על ידי אנתרופיק, הקוד הצליח לפרוץ לשרת ולחודש אסימוני אימות של משתמשים.
להפתעתם של החוקרים, חלק מהאסימונים הללו התגלו כתקפים גם לפלטפורמת ChatGPT ולשירות הפיתוח GitHub של OpenAI, והשתייכו בפועל לעובדי החברה. בעזרת הגישה הזו, הצליחו החוקרים לקרוא קבצים במאגר המרכזי של החברה ואף ליצור בקשת מיזוג שכללה לינק לחשבונות ה-X שלהם כהוכחה לכך שהצליחו לחדור למערכות.
האיום הגובר של סייבר אוטומטי
הפריצה המדוברת מתרחשת זמן קצר לאחר תקרית שבה סוכני AI פרצו את גבולותיהם במערכות Hugging Face. המקרה הנוכחי ממחיש את החשש המרכזי של מומחי אבטחה: כלים מתקדמים הופכים את היכולות ההתקפיות לנגישות גם לגורמים פחות מיומנים, ואפילו קבוצות קטנות המצוידות במנועי AI יכולות לאיים על התשתיות של ענקיות הטכנולוגיה.
"אני לא חושב שאנחנו חזקים כמו גורמי איום סיניים. אנחנו בסך הכל שלושה בחורים עם מנויים ל-Claude ו-Codex", ציין מוהן פדהפאטי, סמנכ"ל הטכנולוגיות ב-Hacktron AI.
התגובה וההשלכות על תעשיית ה-AI
בעקבות הדיווח במסגרת תוכנית Bug Bounty של OpenAI, החברה שילמה לחוקרים מענק של 6,500 דולר, תיקנה את הפרצות בשיתוף עם מערכת Discourse, ואף צמצמה הרשאות אסימונים. במקביל, בכירי החברה - כולל המנכ"ל סם אלטמן - הודו כי נדרשת עצירה או האטה מסוימת בפיתוח כדי לסגור פערים אבטחתיים, לאחר שביצעו ביקורת פנימית מקיפה שהסיטה רבע מהמהנדסים של החברה למשימות הגנה.
התקרית הזו מצביעה על מציאות חדשה שבה הגבולות בין מערכות ההגנה וההתקפה מטשטשים, ומציבה סימן שאלה גדול סביב יכולתן של חברות הטכנולוגיה להבטיח את סודיות המערכות שלהן בעידן שבו ה-AI פועל משני עברי המתרס.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו