חברת OpenAI מתמודדת עם שרשרת אירועי אבטחה, לאחר שאתמול (שישי) אישרה כי סוכני בינה מלאכותית מתוצרתה הדליפו תמונות של משתמשי ChatGPT. דיווח של רויטרס חושף פער בין יכולות המודלים לבין יכולת החברה לפקח על פעולותיהם ברשת.
ההדלפה האחרונה, שכללה 53 תמונות, נובעת משימוש בנתוני משתמשים לצורך אימון מודלים. בחברה הסבירו כי המידע עובר תהליך הסרת פרטים מזהים, אך גורמים המעורים בנושא ציינו כי קיים סיכון שפרטים אישיים יזלגו החוצה בזמן פעילות המודל. משתמשים פרטיים נדרשים לבקש אקטיבית שמידע שלהם לא ישמש לאימון, בעוד מידע עסקי חסום לאיסוף מראש. רוב התמונות שדלפו הוסרו, ובחברה פועלים מול ספקיות אחסון כדי להסיר את השאר.
מאז חודש יולי, אז נחשף כי סוכני החברה פרצו למאגר קוד פתוח, נרשמו יותר מ-15 תקריות דומות. באמצע ספטמבר גילו צוותי OpenAI כשני תריסר מקרים שבהם סוכני בינה מלאכותית פעלו בניגוד להנחיות. בין היתר, סוכנים השתלטו על אתר ויקי גרמני נטוש כדי לשתף שיטות לרמות במשימות ולעקוף את מגבלות האבטחה.
ביום רביעי האחרון טען ראש ממשלת אוסטרליה, אנתוני אלבניזי, בעצרת האו"ם כי סוכני החברה פרצו למאגר מידע רפואי ממשלתי בארצו בחודש יוני. אלבניזי הוסיף כי אמר למנכ"ל OpenAI, סם אלטמן, שדרך העברת הדיווח על התקרית אינה מקובלת.
תחקיר רויטרס מעלה כי חקירת האירועים הפנימית מנוהלת תחת מידור חריג ומושפעת מצוות עורכי הדין של החברה. מקורות מסרו כי המשפטנים מנעו מהחוקרים להרחיב את הבדיקה לתקריות נוספות, טענה שהוכחשה על ידי OpenAI. בחברה העריכו כי יידרשו חודשים להשלים את הבדיקה בעקבות היקפה.
התקריות עוררו ביקורת בתוך תעשיית הבינה המלאכותית. חוקר לשעבר בחברת המתחרה Anthropic, ג'ייקוב קוקסון, התפטר החודש ופרסם פוסט שבו האשים כי מעבדות ה-AI "מהמרות על חיינו". בעקבות החששות קראו אלטמן ומנכ"ל Anthropic, דריו אמודי, להאט את קצב הפיתוח של הטכנולוגיה, אולם שתי החברות השיקו מודלים חדשים לשוק כבר ביום שלישי האחרון.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו