שוק הרשתות החברתיות נמצא בעיצומו של מרוץ חימוש מטריד, אך הפעם היריב אינו פלטפורמה מתחרה, אלא הצפה חסרת תקדים של תוכן מזויף. ענקית המדיה טיקטוק מכריזה היום (ראשון) על שורת צעדים דרמטיים במאבק הבלתי מתפשר בתוכן מטעה שנוצר באמצעות בינה מלאכותית.
במרכז המהלך, החברה משיקה בשבועות הקרובים פיילוט למערכות זיהוי משופרות שנועדו לנטרל חשבונות המפיצים ספאם AI המוני. הטכנולוגיה החדשה לא תתפזר לכל עבר, אלא תתמקד באופן כירורגי בנושאים רגישים שעלולים לפגוע באמון הציבור וברווחתו: פוליטיקה, אקטואליה, ייעוץ פיננסי ותוכן רפואי.
הנתונים נחשפים: 86 מיליון חשבונות חוסלו
המהלך האגרסיבי של טיקטוק אינו מקרי. פיתוח כלי ה-AI הגנרטיבי בשנתיים האחרונות הפך את ייצור הבוטים והספאם לקל וזול מאי פעם, מה שמוביל להצפת תפיסת המציאות הדיגיטלית ולדחיקתם החוצה של יוצרי תוכן אותנטיים.
כדי להבין את ממדי התופעה, טיקטוק חושפת נתוני אכיפה חסרי תקדים:
חיסול חשבונות המוני: ברבעון הראשון של השנה בלבד, הפלטפורמה איתרה והסירה יותר מ-86 מיליון חשבונות מזויפים שעסקו בהפצת ספאם.
תיוג מסיבי: עד היום, טיקטוק תייגה למעלה משלושה מיליארד סרטונים כתוכן שנוצר באמצעות AI. הסימון מתבצע באמצעות שילוב של כלי תיוג עצמיים ליוצרים וטכנולוגיית סימון מים בלתי נראית.
עליית מדרגה גיאו-פוליטית
כחלק מהרצון להוביל שינוי פרדיגמה בתעשייה כולה, טיקטוק מודיעה על הצטרפותה לוועדה המנהלת של ארגון C2PA - הגוף המוביל את תקן ה-Content Credentials. מדובר בטכנולוגיה קריטית המאפשרת לעקוב אחר מקור התוכן ולדעת בדיוק מתי סרטון נוצר או עבר עריכה משמעותית באמצעות AI. טיקטוק, שהייתה פלטפורמת הווידאו הראשונה להטמיע את התקן לפני כשנתיים, תפעל כעת מהכיסא המנהל כדי לדחוף את התעשייה כולה לאימוץ התקן.
"התפתחות הטכנולוגיה מנוצלת לייצור המוני של ספאם שמאיים על המרחב הדיגיטלי. אנחנו משתמשים בכלים המתקדמים ביותר כדי להגן על הקהילה שלנו ועל האותנטיות של הפלטפורמה", כך נמסר מהחברה.
לצד המקלות הטכנולוגיים, טיקטוק משקיעה סכומי עתק גם בגזרת החינוך. החברה הרחיבה את ההשקעה באוריינות AI, וחברה לארגון NAMLE ולמומחה הבינלאומי הנרי אג'דר כדי ליצור מדריך לשימוש אחראי בכלי בינה מלאכותית. התוכנית הממשקית לקידום שימוש בטוח ב-AI, שמחברת מומחים לקהל המשתמשים, כבר רשמה הצלחה פנומנלית עם יותר מ-200 מיליון צפיות מאז השקתה בסוף 2025. החברה התחייבה להשקיע במיזם זה למעלה מארבעה מיליון דולר.
במקביל, כדי לא לחנוק את היצירתיות, החברה משחררת פיצ'ר ייחודי של "ניהול נושאים", שיאפשר למשתמשים עצמם לקבוע את הטון: מעתה, כל גולש יוכל לבחור באמצעות סליידר ייעודי כמה תוכן AI הוא בכלל מעוניין לראות בפיד שלו.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו