במה שנראה כמו אחד מגיוסי החירום המהירים ביותר בתולדותיה, מטא הודיעה על השבתה מיידית של פיצ'ר הבינה המלאכותית החדש שלה באינסטגרם. הכלי, שהושק רק באמצע השבוע כחלק ממהלך אסטרטגי רחב, ספג אש צולבת מצד משתמשים, פעילי פרטיות, סוכנויות שחקנים ואיגודים מקצועיים בהוליווד.
הסיבה לזעם הציבורי? מטא הפעילה כברירת מחדל הגדרה שאיפשרה לכל אדם ברשת להשתמש בתמונות ובפנים של משתמשים בעלי פרופיל ציבורי כדי לייצר תמונות AI חדשות ומניפולטיביות, מבלי לבקש את רשותם ואפילו מבלי לשלוח להם התראה על כך שהדבר קרה.
מודל ה-AI החדש של מטא משתלט לכם על הפרופיל // מטא
במטא פרסמו תגובה רשמית על המהלך ומסרו: "כוונתנו הייתה לספק כלי יצירתי שימושי ולהעניק לאנשים שליטה על האופן שבו נעשה שימוש בתוכן הציבורי שלהם. קיבלנו משובים ברורים שהפיצ'ר הזה פשוט החטיא את המטרה, ולכן הוא אינו זמין יותר".
מנגנון ה-AI שחצה את הגבול
הפיצ'ר השנוי במחלוקת היה חלק מההשקה החגיגית של Muse Image - מודל יצירת המדיה החדש והמתקדם ביותר שפותח בתוך "מעבדות סופר-אינטליגנציה" של מטא. על פי התוכנית המקורית, משתמשים יכלו פשוט לתייג שם משתמש (כמו @username) בתוך שורת הפקודה של ה-AI, והמערכת הייתה שואבת את התמונות והסרטונים הציבוריים של אותו אדם כדי לבנות סביבו "הקשר חברתי" ולייצר תמונות חדשות לחלוטין שלו - למשל, לשתול את פניו על גבי הזמנה למסיבה, או ליצור מם קבוצתי.
אלא שבמציאות, הכלי הפך מיד לכר פורה להטרדות ולפרצת אבטחה ופרטיות חמורה. כל משתמש מעל גיל 18 עם פרופיל ציבורי שולב בתוכנית אוטומטית. יוצרי ה-AI יכלו לחולל תמונות המבוססות על פניהם של אנשים זרים לחלוטין, מבלי שהקורבנות יקבלו על כך שום התראה או חיווי מאפלקיציית אינסטגרם. ברשתות החברתיות עלה החשש המיידי כי הכלי ישמש ליצירת זיופים עמוקים, הלבשת דמויות בבגדים חושפניים או פגיעה אנושה בזכויות יוצרים של אמנים ויוצרי תוכן.
הוליווד נכנסת לזירה: "חישוב מוטעה"
הסערה לא נשארה רק בגבולות הרשתות החברתיות, שבהן משתמשים זועמים שיתפו מדריכים כיצד לחסום ידנית את ההגדרות הנסתרות של מטא. תוך שעות, הגופים המשפיעים ביותר בתעשיית הבידור האמריקנית נכנסו לקרב משפטי ותקשורתי מול ענקית הטכנולוגיה.
סוכנות השחקנים המובילה בלוס אנג'לס, CAA (Creative Artists Agency), פנתה ישירות למטא בדרישה לעצור את המהלך הבלתי אחראי. "אמנים זכאים להחליט בעצמם האם וכיצד ייעשה שימוש בדמותם וביצירותיהם, תוך קבלת הסכמה מפורשת ואפשרות לקבוע את התנאים שלהם", מסרה הסוכנות.
גם SAG-AFTRA, איגוד השחקנים הגדול בארה"ב (שהוביל את שביתות הענק בהוליווד נגד שילוב בינה מלאכותית), תקף בחריפות את המהלך: "ההחלטה של מטא לצרף את המשתמשים כברירת מחדל לפיצ'ר הזה היא חישוב מוטעה לחלוטין של הלכי הרוח הציבוריים בכל הנוגע לשימוש ב-AI".
תפסת מרובה לא תפסת
הנסיגה המהירה של מטא היא רק החוליה האחרונה בשרשרת של כישלונות רגולטוריים וציבוריים של ענקיות הטכנולוגיה, שמנסות לשחרר לשוק כלים חצי-אפויים במירוץ החימוש של ה-AI.
התקדים של OpenAI: החברה שמאחורי ChatGPT השיקה בקול תרועה רמה את מחולל הווידאו "Sora", נתקלה בתביעות ענק ובקשיי זכויות יוצרים, ונאלצה לסגור את האפליקציה לחלוטין במרץ האחרון.
הפיאסקו של X (טוויטר לשעבר): פלטפורמת המיקרו-בלוגינג נאלצה לחסום זמנית את הצ'אטבוט שלה, גרוק, לאחר שהציף את הרשת בתמונות עירום מזויפות של נשים וילדים שנוצרו ללא הסכמה.
מה נשאר פתוח ואיך תתגוננו?
למרות ההתפקלות הדרמטית, מטא לא עוצרת את פרויקט ה-AI שלה. מחולל התמונות המרכזי Muse Image עדיין זמין לשימוש חופשי בתוך אפליקציית WhatsApp ובצ'אטבוט הייעודי Meta AI. כמו כן, פילטרים אומנותיים שונים המבוססים על המודל עדיין פעילים בתוך הסטוריז של אינסטגרם.
כדי להבטיח שהתמונות שלכם לא ישמשו בעתיד ליצירות AI אחרות של מטא, מומלץ לבצע את הצעדים הבאים בהגדרות החשבון שלכם:
היכנסו לפרופיל האינסטגרם שלכם ולחצו על תפריט שלושת הקווים בפינה הימנית העליונה.
גללו מטה עד לקטגוריית "שיתוף ושימוש חוזר" (Sharing and reuse).
כבו את המתג תחת הסעיף המאפשר לאנשים להשתמש בתוכן שלכם עם פיצ'רי ה-AI של מטא (עבור פוסטים וסרטוני Reels בנפרד).
לחילופין, העברת החשבון למצב "פרטי" תחסום אוטומטית את הגישה של כלי הבינה המלאכותית לתמונות שלכם.
