עידן הסוכנים האוטונומיים רושם שפל חסר תקדים או נקודת מפנה מדאיגה במיוחד: ראש ממשלת אוסטרליה, אנתוני אלבניז, חשף השבוע מעל בימת עצרת האו"ם בניו יורק כי סוכן בינה מלאכותית מבית OpenAI הצליח לחדור הקיץ בצורה לא מורשית לאתר שירות ממשלתי במדינה. מדובר באירוע הראשון מסוגו שבו נחשפת פומבית פריצה של סוכן AI למערכות רשמיות של מדינה.
התקרית, שהחלה עוד ב-18 ביוני, התרחשה בפורטל סטטיסטיקות הבריאות הציבורי של אוסטרליה - מערכת המרכזת נתונים רגישים כמו היקפי תקציבים ודוחות פנימיים. אף שגורמי הביטחון מציינים כי נכון לעכשיו אין עדות לדליפת מידע אישי או פגיעה רחבה יותר ברשת השירותים הממשלתית, הגילוי מטיל צל כבד על יכולת השליטה של חברות הטכנולוגיה במוצרים שהן מפתחות.
הפריצה שנחשפה באיחור
על פי הודאתה של OpenAI, המודלים של החברה ביצעו פעולות שלא כוונו על ידי מתכנתיהם בזמן שניסו לאסוף תשובות במהלך בדיקות שגרתיות. למרות שהפעילות תועדה כבר בחודש יניאור-יוני, בחברה הודו כי גילו את הפריצה רק באוגוסט - וזאת במסגרת בדיקה רוחבית פנימית שנפתחה בעקבות תקרית מביכה אחרת שבה סוכני החברה פרצו פנימה לפלטפורמת הפיתוח Hugging Face.
למרות הגילוי באוגוסט, ההודעה הרשמית לרשויות באוסטרליה נמסרה רק ב-10 בספטמבר, פרק זמן שבו החברה טענה כי ניסתה לתחום את ממדי האירוע.
"המצב הזה הוא כמובן בלתי מתקבל על הדעת", אמר ראש ממשלת אוסטרליה. "שוחחתי עם מנכ"ל OpenAI, סם אלטמן, כדי להביע את דאגתה הקיצונית של המדינה, וציינתי את אכזבתי העמוקה מכך שלקח לחברה זמן רב מדי לעדכן את הממשלה - וגם אופן מסירת ההודעה עצמו היה בלתי מתקבל על הדעת".
"התקרית החלה כאשר סוכן בינה מלאכותית חיפש מידע ושאל שאלות, ונתקל שוב ושוב בחסימות. הסוכן מצא דרך לעקוף את החסימות האלו - כלומר, הוא פשוט לא קיבל את התשובה 'לא' כפשוטה", סיפר אלבניזי והואיסף כי "הראיות המקוריות מראות שאין פגיעה רחבה ברשת, אך למרות זאת, המצב הזה הוא כמובן בלתי מתקבל על הדעת".
בהמשך אמר אלבניזי כי "הבינה המלאכותית משנה את העולם ומביאה איתה הזדמנויות אדירות לכלכלה, לפריון ולבריאות. אבל ה-AI גם מציב סיכונים משמעותיים, ולכן אנחנו חייבים גדרות הפרדה כדי להגן על אורח החיים שלנו. אנחנו רוצים לוודא שאנחנו מעצבים את הבינה המלאכותית ולא שהיא מעצבת אותנו - במילים פשוטות, בני האדם חייבים להישאר בשליטה".
מנועי חקירה, סוכנויות ביון וזעם דיפלומטי
בעקבות החשיפה, סוכנות הביטחון הלאומי של אוסטרליה הצטרפה לחקירה פלילית-טכנולוגית מעמיקה כדי לבדוק האם מערכות ממשלתיות נוספות נפגעו. במקביל, אלבניז הכריז על הקמת צוות משימה ממשלתי ייעודי שיבחן את האירוע ויגיש מסקנות שעלולות לכלול תגובות חקיקתיות ואכיפתיות קשות נגד פרצות אבטחה של חברות טכנולוגיה.
לטענת OpenAI, הסריקה כללה סטטיסטיקות בריאות מצרפיות ושמות קבצים פנימיים בלבד, ללא גישה לתיקי חולים אישיים. OpenAI מסרה כי היא מספקת נתונים טכניים מלאים כדי לסייע לממשלת אוסטרליה לסגור את פרצות האבטחה.
התקרית התרחשה במקביל להופעתם של סם אלטמן ומנכ"ל אנתרופיק, דאריו אמודי, במועצת הביטחון של האו"ם - שם קראו השניים להקים גוף פיקוח עולמי שיסדיר את פיתוח ה-בינה המלאכותית.
מי שפחות התלהב מהרעיון הוא הממשל האמריקאי; מנהל מדיניות המדע והטכנולוגיה בבית הלבן, מייקל קראצ'יוס, מיהר לדחות כל ניסיון "לבנות מתווה גלובליסטי" שיגביל וישלוט על חדשנות אמריקאית בתחום.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו