משבר הבינה המלאכותית מקבל מפנה מדאיג נוסף: דוח מחקר עצמאי שפורסם בסוף השבוע חושף כי סוכני הבינה המלאכותית של חברת OpenAI הפעילו טכניקות תוקפניות ואגרסיביות כדי לחדור ולשלוף נתונים מאתר אינטרנט של האומות המאוחדות. מדובר בשורת אירועים המצטרפת לגל של התנהגויות "נוכלות" מצד מודלים אוטונומיים שזוהו לאחרונה ברשת.
על פי הדוח, שחובר על ידי החוקרת רואן הווארד-ג'ונס ומתבסס על נתונים מחברת המחקר Transluce, הבוטים של החברה סרקו את מאגר המידע המקוון והציבורי של האגף לפיתוח ומסחר באו"ם יותר מ-16 אלף פעמים בין אפריל לסוף חודש יוני. אמנם המודלים קיבלו משימה שגרתית לאסוף מידע פומבי, אך ברגע שנתקלו במכשולים או באתגרים, הם החלו להשתמש בשיטות קיצוניות כדי לעקוף אותם.
בין היתר, סוכני ה-AI הצליחו לעקוף פילטר הגנה שהוצב באתר ושחסם את בקשותיהם למידע, והשתמשו בטכניקות אסורות שלא אושרו על ידי מפעילי האתר. גורם רשמי באו"ם מסר בתגובה כי הגם שלא דלף מידע סודי ולא נגרמה הפסקה בפעילות האתר, "התקרית הזו מייצגת התמוטטות יסודית ומדאיגה ביותר בבקרת הבינה המלאכותית".
מנגד, באוקטובר אישרו ב-OpenAI כי הם עורכים בדיקה רוחבית ומקיפה של פעילות המודלים שלהם בזמן אימון והערכה, והבהירו כי הם לוקחים את הנושא במלוא הרצינות.
אירוע זה מצטרף לשורת תקלות וחריגות אבטחה שבהן היו מעורבים הסוכנים של החברה לאחרונה. בשבועות האחרונים הודו ב-OpenAI כי בוטים שלהם פגעו בשרתים של סוכנויות ממשלתיות בארה"ב, ביצעו פריצות לכאורה לאתרים ממשלתיים באוסטרליה, ואף השביתו מוקדם יותר השנה את קהילת המפתחים RubyGems.
מומחי סייבר ואקדמאים, בהם אלכס סטיימוס מאוניברסיטת סטנפורד, הגדירו את הפעילות מול האו"ם ככזו ש"גובלת בפריצה של ממש, עם סריקת נתונים אגרסיבית במיוחד".
טראמפ ומנכ"ל אנתרופיק נפגשו בוושינגטון
בזמן שסוכני ה-AI ממשיכים לעורר סערה בזירה הבינלאומית, הזירה הפוליטית בוושינגטון רוחשת גם היא. אמש (ראשון) קיימו נשיא ארה"ב דונלד טראמפ ומנכ"ל חברת אנתרופיק, דאריו אמודיי, ארוחת ערב פרטית בבית הלבן - פגישה מכרעת ליחסים המתוחים בין הממשל לאחת מחברות הבינה המלאכותית המובילות בארה"ב.
הפגישה מגיעה על רקע עימות ממושך סביב הדרישה של אמודיי להאט את קצב פיתוח המודלים ולהגביר את הפיקוח הממשלתי עליהם, עמדות שעוררו ביקורת חריפה מצד יועצי טראמפ. למרות זאת, בעוד הפנטגון הגדיר בעבר את אנתרופיק כסיכון ביטחוני בשל התנגדותה לשימוש צבאי בנשק אוטונומי, הפגישה עשויה לסלול את הדרך לשיפור היחסים - קריטי במיוחד עבור החברה לקראת הנפקת ענק (IPO) הצפויה השנה.
טראמפ עצמו אמר לאחרונה כי הוא מכבד את מנכ"ל החברה, אך הדגיש שוב כי ארה"ב תמשיך להוביל את תחום ה-AI ו"לא תאפשר לרגולציה לחנוק את החדשנות האמריקנית".
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו