מטפלים, ראו הוזהרתם: הבינה המלאכותית נכנסת לקליניקה

העלייה בשימוש בבינה מלאכותיתוצמיחת חברות טכנולוגיה בתחוםבריאות הנפש, לצד המחסור באנשי מקצוע בקהילה, מעלות את השאלההאם צ'אטים ואפליקציות AI יוכלו בעתיד למלא חלק מהחסר במענה לאנשים המתמודדים עם מצוקה נפשית.

השאלה מקבלת משנה תוקף על רקע המציאות הביטחונית, העלייה בתחושות הבדידות ודיווחים מהעבר על מקרים שבהם נטען לקשר אפשרי בין שיח עם מערכות בינה מלאכותית לבין מקרי התאבדות. לצד זאת, עולות גם שאלות הנוגעות למידע האישי והרגיש שמשתמשים בוחרים לשתף במהלך השיחות.

לדבריד"ר מיכל לב ארי, מנהלת מערך שירותי הסיוע ברשת בעמותת ער"ן, לבינה המלאכותית יש יכולת לספק מידע, סיוע ראשוני והכוונה עבור אנשים המתמודדים עם חרדה, בדידות, מצוקה רגשית ומשברי חיים.

"היא מאפשרת לנו להבין טוב יותר את מה שעובר עלינו, לעשות סדר במחשבות, ולהיעזר בכלים מעשיים כמו תרגילי נשימה, הרגעה וקרקוע. כמו כן, עבור אנשים החוששים להיחשף בפני אדם אחר, עצם האפשרות לכתוב באופן אנונימי לצ'אט יכולה להיות צעד ראשון בדרך לקבלת עזרה", אומרת ד"ר לב ארי.

הצ'אט תמיד זמין - אז למה זה עדיין לא מספיק?

לצד היתרונות,ד"ר לב ארימדגישה את מגבלות הטכנולוגיה. "חשוב להבין את מגבלותיה ואת הסיכונים הכרוכים בשימוש בבינה המלאכותית. היא לא מרגישה באמת, אינה נושאת אחריות מקצועית ואינה יכולה להחליף קשר אנושי אמיתי. היא יודעת לנסח תגובות אמפתיות, אך מדובר בסימולציה של אמפתיה ולא בחוויה אנושית של אכפתיות ודאגה".

לדבריה, כאשר אדם נמצא במצוקה נפשית, שיקול הדעת שלו עלול להיות פחות יציב. "במצבים כאלה הוא עשוי להיאחז בתשובה שנשמעת בטוחה ומשכנעת, גם אם היא אינה מדויקת או אינה מותאמת למצבו האישי. לעיתים מערכות כאלה עלולות לספק מידע שגוי, לפספס סימני סכנה, או ליצור תחושה מוטעית שאין צורך לפנות לעזרה אנושית או מקצועית".

עוד היא מוסיפה כי הטכנולוגיה יכולה להרחיב את הנגישות למידע ולכלי התמודדות, אך לדבריה רוב הפונים לעזרה אינם זקוקים רק למידע. "פעמים רבות הם זקוקים לכך שמישהו אנושי יהיה איתם בתוך הבלבול, הכאב, הבדידות וחוסר הוודאות. הם מחפשים אוזן קשבת, תחושת הבנה, קבלה ולעיתים את ההקלה שנוצרת מעצם הידיעה שהם אינם צריכים להתמודד לבד".

"דווקא משום שבני אדם אינם מושלמים, יש לקשר האנושי ערך ייחודי. אנחנו מהססים, שואלים, טועים, מתקנים, מתרגשים, ולפעמים אומרים בפשטות: 'אני לא בטוח, אבל אני איתך'. בתוך האנושיות הזו נבנים אמון, תקווה וקשר אמיתי", היא אומרת.

"כחלק מתהליכי הפיתוח וההכשרה שלנו, אנו בוחנים שימושים שונים של בינה מלאכותית לצורכי סימולציה, הדרכה וליווי מקצועי של מתנדבים, תמיד תוך הקפדה על אנונימיות, פרטיות ופיקוח אנושי מלא. חשוב לציין שכל השיחות בער״ן מתקיימות מאדם לאדם כך שהקשר האנושי נוכח בכל פניה".

"לא ברור למשתמש היכן המידע נשמר"

לצד שאלת היכולת של מערכות AI לסייע במצבי מצוקה, עולה גם סוגיית הפרטיות.ד"ר עו"ד דן חי, מומחה להגנת פרטיות וסייבר, מתייחס לאופן שבו נשמר המידע שמשתמשים משתפים עם מערכות בינה מלאכותית.

"אנשים נוטים לעיתים לשתף מערכות בינה מלאכותית במידע האינטימי והרגיש ביותר על חייהם. במקרים רבים לא ברור למשתמש הממוצע היכן המידע הזה נשמר, מי נחשף אליו, האם הוא מועבר לגורמים מסחריים, והאם ניתן להשתמש בו לצורכי פרסום, אימון מערכות נוספות או אולי מתקפות סייבר", אומר ד"ר חי.

לדבריו, מדובר במידע רגיש שעלול לגרום לנזק אם ידלוף או ינוצל לרעה. "לכן כדאי לזכור כל הזמן כי מדובר בכלי מסייע, וחשוב לשמור בקפדנות על הפרטיות שלנו. גם מצד המשתמשים קיימת אחריות בכל הנוגע למידע שהם בוחרים לשתף".

אם אתם/ן או מישהו קרוב חווים מצוקה - ער"ן מעניקה שירות עזרה ראשונה נפשית מצילת חיים 24/7 לכל אדם, בכל גיל ובכל סוג של מצוקה. הסיוע מוענק באנונימיות ובאופן מיידי. לקבלת סיוע נפשי חייגו 1201, באתר ער"ן eran.org.il, ווטסאפ 052-8451201.