אתם חושבים שאתם מקבלים החלטות באופן עצמאי? שאתם בוחרים לבד את המוצרים שאתם קונים, את האנשים שאתם פוגשים, ואת העבודה שאתם מקבלים? רוב ההחלטות האלו כבר נעשו עבורכם, על ידי אלגוריתמים שאתם אפילו לא יודעים שקיימים.
השדכן הדיגיטלי
בואו נתחיל בענייני אהבה. אתם פותחים את טינדר, גוללים, מחליטים לאיזה כיוון להחליק. מרגיש כמו בחירה חופשית, נכון? אבל האלגוריתם של טינדר כבר החליט הרבה לפניכם את הפרופילים של מי תראו ומי ת/יראה את הפרופיל שלכם.
המערכת מדרגת אתכם על בסיס "ציון אטרקטיביות", מנגנון דומה לזה שמדרג שחמטאים. כל החלקה ימינה מעלה את הציון שלכם, כל החלקה שמאלה מורידה אותו, וההחלקות של מישהו עם ציון גבוה שוות יותר. התוצאה? האלגוריתם מציג אתכם בעיקר לאנשים ב"ליגה" שלכם – לא מעל, לא מתחת. השדכן הדיגיטלי הזה מחליט בשבילכם מיהם בני הזוג הפוטנציאליים הראויים, וחשוב מכך – את מי לא תקבלו הזדמנות להכיר.
הפרקטיקה הזו לא ייחודית לטינדר. אפליקציות היכרויות אחרות משתמשות במנגנונים דומים. מי שמשלם (למינויים פרימיום) מקבל אוטומטית דירוג גבוה יותר, מוצג יותר, ובעצם קונה את דרכו לחזית התור – אבל עדיין, האלגוריתם מנהל את ההתאמות, ולא אתם.
מה תקנו? מה שהאלגוריתם המליץ
עכשיו בואו לאמזון או לעליאקספרס. אתם מחפשים אוזניות אלחוטיות. רואים עמוד ראשון מלא באפשרויות, קוראים ביקורות, ובוחרים. אתם בטוחים שעשיתם מחקר יסודי – אבל האלגוריתם סינן עבורכם מתוך אלפי אפשרויות והציג לכם 20 שהוא רצה שתראו.
איך הוא בחר אותן? זה לא רק על בסיס איכות או ביקורות. במקרה של אמזון, הגורמים שנלקחים בחשבון כוללים:
- רווחיות – מוצרים שמניבים לאמזון יותר כסף מוצגים גבוה יותר;
- מוצרי הבית של אמזון - Amazon Basics והמותגים שלה מקבלים עדיפות על פני מתחרים, גם אם הם נמכרים ואהובים יותר;
- מודעות ממומנות – חברות משלמות כדי להופיע ראשונות (לפעמים בלי שתבינו שזו פרסומת);
- היסטוריית הקנייה שלכם – האלגוריתם יודע מה קניתם בעבר ומה אתם נוטים לקנות;
מחקר מ-2020 מצא שכמעט 50% מהמוצרים בעמוד הראשון של אמזון הם ממומנים – או, במלים אחרות, לא מוצרים שמופיעים כי הם הכי מתאימים לכם, אלא כאלה שמופיעים כי לאמזון יש תמריץ כלכלי כזה או אחר למכור לכם.
לינקדאין: מי יקבל את העבודה?
הלאה. אתם מחפשים עבודה, שולחים קורות חיים, ומחכים לתשובות. גם כאן, אלגוריתמים משפיעים על כל התהליך.
מערכות ATS (Applicant Tracking Systems) סורקות קורות חיים לפני שמעסיק פוטנציאלי כלשהו רואה אותם. האלגוריתם מחפש מילות מפתח, תבניות מסוימות, משך זמן במקומות עבודה. הערכות מצביעות על כך ש-75% מהקו"חים נפסלים אוטומטית על ידי המערכות האלה – לא בגלל שאתם לא מתאימים, אלא כי האלגוריתם החליט שאתם עובדים פחות איכותיים.
גרוע מכך: המערכות האלו מגלות הטיות. מחקרים גילו שמערכות סינון קורות חיים נוטות לפסול מועמדים עם שמות שנשמעים ככאלה המזוהים עם מיעוטים, כמו שחורים או אסייתיים בארה"ב וקנדה, ופחות מועמדים לבנים, גם כשרשימת הכישורים זהה. נשים עם הפסקות בקריירה (הריון, למשל) מקבלות ציון נמוך יותר – כי האלגוריתם "למד" מנתונים היסטוריים שהפסקות הן "סימן רע".
הבועה שלא ידענו שאנחנו בתוכה
לכל זה מצטרפים האלגוריתמים החברתיים – פייסבוק, אינסטגרם, טיקטוק ויוטיוב, שכל אחד מהם מחליט מה תראו בפיד, ובעצם מעצב את תפיסת העולם שלכם. האלגוריתמים האלה מתוכנתים למטרה אחת – לגרום לכם להישאר זמן רב יותר באפליקציה – והם גילו שהדרך הטובה ביותר לעשות זאת היא להראות לכם תוכן שמאשר את הדעות הקיימות שלכם. אם אתם שמאלנים – תראו דעות שמאל; אם אתם ימינים – תראו ימין. האלגוריתם מייצר בועת מידע שקשה לצאת ממנה.
מחקר מאוניברסיטת ניו-יורק מצא שתוכן שמעורר רגשות קיצוניים – זעם, פחד, הלם – מקבל פי 2-3 יותר לייקים, תגובות ושיתופים. אז מה עושה האלגוריתם? מזין אתכם בעוד ועוד תוכן קיצוני, כי זה מה שגורם לכם להישאר ולהיות פעילים. הפילוג הפוליטי והחברתי שאנחנו רואים היום לא נובע דווקא מהקצנת דעות טבעית בציבור, אלא מכך שכל צד נגרר אל הקצה שלו ע”י האלגוריתמים.
איך נלחמים בזה?
האלגוריתמים לא הולכים להיעלם מחיינו – אבל יש דרכים להפחית את השפעתם:
- הכירו את ה"אויב" – הבינו שאתם לא רואים כל האפשרויות. אתם רואים מה שמישהו בחר להראות לכם;
- צאו מהבועה – חפשו באופן אקטיבי מידע שסותר את הדעות שלכם ויגרום לכם לפתח חשיבה עמוקה יותר סביבן;
- לכו לדף השני בגוגל – ברצינות. הדבר הכי חשוב לרוב לא נמצא בעמוד הראשון של תוצאות החיפוש;
- תשאלו אנשים אמיתיים – המלצות מחברים עדיין אמינות יותר מאלגוריתמים;
- שנו את ההגדרות – כבו המלצות אישיות, סינון, ו"שיפור חוויה" (שהוא עוד דרך להגיד שמאכילים אתכם במידע מאוד מסוים).
אבל בעיקר – זכרו שהאלגוריתמים לא עובדים בשבילכם. הם עובדים בשביל החברות שבנו אותם. המטרה שלהם היא לגרום לכם לבלות יותר זמן בפלטפורמה, ולהפוך את הנתונים שלכם לכסף בדמות שילוב פרסומות בין התכנים האחרים, או למכור לכם מנוי כדי לקבל תכונות נוספות. כדאי מאוד לא להיות תלויים באלגוריתמים. פשוט הניחו את הטלפון ודברו עם אנשים אמתיים סביבכם.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו