הצד האפל של הצ'אטבוטים - שמתחזים לבני אדם

חברות AI נמצאות במרוץ חסר תקדים להומניזציה של מערכות AI. דהיינו, פיתוח, פריסה ושימוש במערכות שמנסות לחקות בצורה המלאה והמדויקת ביותר בני אדם על כל ההיבטים שלהם. ההומניזציה של ה-AI משתלבת היטב בנטייה הטבעית של בני אדם להאניש באופן מודע חפצים ביתיים שונים וישויות לא אנושיות כמו חיות מחמד, כוחות טבע ועוד. כשמדובר במערכת AI שמשוחחות איתנו בצורה רציפה והגיונית, מתחזקת הדרישה להטמיע בהן תכונות אנושיות.

מגמה זו בולטת באופן מיוחד בתחום מוקדי השירות והתמיכה, שחותרים להפעיל צ'אטבוטים שמחקים באופן המדויק התנהגות אנושית. מסתבר, שעל אף העובדה שמערכות AI שיפרו את היעילות של מוקדי השירות והתמיכה, שביעות הרצון הכוללת של המשתמשים לא עלתה ולעתים אף ירדה, שכן רבים מהם עדיין מצפים לאמפתיה, הקשבה והבנה אנושית גם כשהם מתקשרים עם מערכת ממוחשבת. רבות מהמערכות הללו עדיין מגיבות לפניות המשתמשים בסגנון טכני ורובוטי, שיוצר תחושה של ניכור וחוסר אמון במערכת.

חברות מיישמות אם כן הומניזציה של מערכות AI כדי לחזק את הקשר הרגשי של המשתמשים עם המערכת ולהגביר את המעורבות, הנאמנות ושביעות הרצון שלהם. עם זאת, התופעה מולידה שורה של סיכונים, שרבים מהם נדונים בעולם אך לא זוכים לתשומת לב מספקת בישראל.

הומניזציה של AI כוללת שורה ארוכה של מאפיינים וביניהם: המראה היותר ויותר אנושי של אווטארים, צ'אטבוטים וסוכני AI שיוצרים תחושה של היכרות עמוקה עם הצרכן באמצעות מיקרו פרסונליזציה, כולל הבנת הקשרים והיסטוריה של המשתמש, היכולת של צ'אטבוטים להתנסח בגוף ראשון בשפה טבעית, אדיבה ורגשית, היכולת שלהם לזהות ולהגיב בצורה מדויקת לרגשות ולמצב הרוח של המשתמש, ועוד.   

לצד היתרונות הרבים, טמונים בהומניזציה של ה-AI סיכונים משמעותיים שיש להביאם בחשבון. כאשר צ'אטבוט נשמע אנושי מדי, נוצר טשטוש גבולות בין אדם למכונה ועלולה להיווצר תחושה של מניפולציה רגשית, בלבול, אי וודאות וחוסר אמון. האמפתיה שמפגינה המכונה עלולה להפוך לחזות הכל, ליצר "רעשים" ולהסתיר אגב כך כשלים או מגבלות של המערכת, תוך פגיעה נוספת בשקיפות ובאמון.

על אף ההתקדמות הטכנולוגית המואצת, AI דמוי אנוש עלול לשגות בהבנת המצב הרגשי של המשתמשים, להפלות לקוחות לפי טון או סגנון דיבור ולהעצים הטיות קיימות. הומניזציה של AI מציבה גם סיכונים משפטיים שכוללים תביעות בגין מניפולציה, חוסר שקיפות, אפליה ועוד.     

הומניזציה של AI מיושמת כיום בקצב מואץ בארגונים, בפרט במוקדי שירות ותמיכה ברחבי העולם. על פי הערכות, שיעור האימוץ הגבוה ביותר של מערכות AI, שכרוך לרוב בהומניזציה, קיים במגזר הפיננסים (60%-75%) ובמגזר הבריאות (65%-50%), שניהם בגלל הרגישות הגבוהה והצורך באמפתיה. השיעור הנמוך ביותר (35%-20%) קיים במגזר התעשייה וה-B2B שבהם הצורך באמפתיה הוא שולי יחסית.

ארגונים צריכים להגדיר כצעד ראשון בתהליך היישום את היעדים של מערכת ה-AI ההומניות ואילו מדדים הם מצפים לשפר: זמני מענה, איכות ופריון המוקדנים, שביעות רצון הלקוחות ועוד. יש לוודא שהכלים שיבחרו כבר הוכיחו את עצמם במימוש יעדים מסוג זה בקרב ארגונים משמעותיים דומים להם. יש להגדיר באופן ברור את גבולות מערכת ה-AI, באילו סוגיות מותר לה לטפל והיכן עליה להבין שהגיע הזמן להעביר את המשך הטיפול למוקדנים אנושיים. במקביל עליה להמשיך לספק להם ברקע כלים לשיפור פעילותם.

יש לוודא כל העת שהמערכת מנתחת באופן נכון את רגשות הלקוח, ושתגובותיה הולמות ואפקטיביות במצבים שונים, כולל מצבי קיצון של כעס ותסכול. ארגונים שמיישמים מערכות מסוג זה חייבים לבחון כל העת האם הטון של מכונה, המדמה בן אנוש, לא יוצר אשליה גדולה מדי שעלולה להתגלות כבומרנג.

בהקשר זה חשוב ביותר ליישם שקיפות מלאה ולוודא שהלקוח מודע כל העת שהוא משוחח עם מכונה ולתת לו חופש בחירה לגבי רמת האנושיות של המערכת. תהליך היישום צריך לכלול הדרכה מקיפה לנציגי השירות והתמיכה שתבהיר להם שחשיבותם רק גדלה בעידן של מכונות דמויות בני אנוש. כמו כן, מומלץ להתחיל את התהליך בפיילוט שיתקף את הטכנולוגיה ואת היכולת שלה להשיג את היעדים.        

הומניזציה של מערכות AI משתלבת עם הנטייה הטבעית של בני אדם להאנשה. טמונים בה יתרונות גדולים, עבור ארגונים בכלל ומוקדי שירות בפרט, שחותרים לחוויית שירות מהנה, מלאה וחיובית שתתרום לשביעות הרצון, לשימור הלקוחות ולהכנסות החברה. מנהלי ארגונים חייבים להשתמש בתבונה האנושית שלהם להסיק מסקנות ולשנות את יכולות המערכת על בסיס נתונים ותובנות מהשטח.