הפרויקט המפחיד של מארק צוקרברג מסתבך בענק

מסמכים פנימיים ודרמטיים שהגיעו לידי סוכנות הידיעות רויטרס חושפים כי חברת מטא, הבעלים של וואטסאפ, פייסבוק ואינסטגרם, מפעילה פרויקט מעקב חשאי ואגרסיבי בהרבה ממה שהודתה בו בתחילה. הפרויקט, שנועד לאמן את סוכני הבינה המלאכותית העתידיים של מארק צוקרברג, אוסף נתונים מדויקים על כל תנועת עכבר, קליק והקלדה של עובדים - ובדרך מצליח לשאוב גם מידע פרטי של אנשים מחוץ לחברה, מה שמוביל אותה למסלול התנגשות ישיר ומסוכן עם חוקי הפרטיות הנוקשים של האיחוד האירופי (GDPR).

הפרויקט החשאי, שזכה לשם הקוד Model Capability Initiative (ובקיצור: MCI), הושק בחודש שעבר במטרה מוצהרת: להקליט כיצד בני אדם משתמשים במחשב ובתוכנות יומיומיות, כדי לאמן סוכני AI עצמאיים שיוכלו לבצע משימות משרדיות לבד ובצורה אוטונומית לחלוטין.

אלא שהשבועות האחרונים הפכו לסיוט עבור עובדי החברה בארה"ב. עובדים רבים החלו להתלונן בפורומים פנימיים כי התוכנה שואבת כמויות מידע כה עצומות, עד שהיא גרמה לחבילות האינטרנט הביתי שלהם להיגמר לחלוטין תוך ימים ספורים.

הסיפור הופך למלחיץ באמת עבור הציבור הרחב. במסמך שאלות ותשובות  פנימי שהופץ בחברה, מטא הודתה בפירוש כי הכלי מסוגל לתעד גם את התוכן של מיילים או הודעות ישירות שנשלחים לעובדים - גם אם השולח נמצא מחוץ לארה"ב, למשל באירופה. המשמעות היא שמידע פרטי של אזרחים אירופיים, המוגן תחת חוקי ה-GDPR המחמירים, נשאב לתוך שרתי החברה בארה"ב מבלי שהם בכלל מודעים לכך.

ארגוני זכויות אדם וכלי תקשורת כבר מתריעים כי מדובר בהפרה בוטה של החוק, שכן המידע משמש למטרה שונה לחלוטין מזו שלשמה נמסר.

הזעם הפנימי במטא הגיע לנקודת רתיחה כאשר עובדת בחברה ביצעה ניתוח מעמיק של קובצי הלוג של תוכנת הריגול, בעזרת הצ'אטבוט קלוד של אנתרופיק. הממצאים היו מבהילים: התוכנה "הולבשה" על מערכות אבטחת המידע הרגילות של המחשב, וקיבלה גישה חופשית לנתונים רגישים במיוחד - כולל שינויי קוד, זמני שינה ויקיצה של המחשב, כתובות אתרים מדויקות ואפילו לכל התוכן שהעובדים מעתיקים ומדביקים - כשהמידע נשמר בצורה לא מאובטחת ולא מוצפנת.

"הם לא בונים AI שילחץ על תפריט בשבילכם", כתבה העובדת בפוסט שזכה לתפוצה רחבה, "הם בונים AI שיודע על איזה תפריט ללחוץ, מה לבחור, לאיזה מסמך להדביק את זה ומה לעשות הלאה. זה מודל התנהגותי מלא של איך עובד ידע עושה את הג'וב שלו".

זמן קצר לאחר מכן, הפוסט המדובר נעלם ונמחק לחלוטין מהרשת הפנימית של החברה. דובר מטא, דייב ארנולד, ניסה להרגיע וטען כי מסקנות הפוסט "שגויות ביסודן" וכי החברה פועלת בהתאם לחוק, אך סירב לענות לשאלות מפורטות על כמות המידע שנשאבת או על חוקיות המהלך באירופה.

מומחי משפט וזכויות אזרח כבר קוראים לרשויות ברומניה ובאירלנד לפתוח בחקירה פלילית דחופה נגד מטא, ומזהירים: "זה לא קשור רק לעובדי מטא. זה קשור לכל עובד, בכל סקטור ובכל מדינה, שהולך להיות מוחלף בקרוב על ידי הרובוט שצופה בו עכשיו".