רבקה הסכימה לתמלול AI - והואשמה בצריכת סמים: "הייתי בהלם"

כשרבקה גרין הגיעה לפגישה הראשונה שלה אצל רופאה אורולוגית, היא נשאלה אם היא מסכימה שהמפגש יתומלל על ידי בינה מלאכותית (AI). היא הסכימה מיד, ללא כל היסוס. ההחלטה הזו גרמה לה נזק כבד, כאשר הבינה המלאכותית המציאה טענה שקרית לחלוטין - לפיה היא צורכת סמים בלתי חוקיים

רבקה סיפרה כי ההחלטה לאפשר תמלול של הפגישה מרצון שלא לבזבז לרופאה את הזמן. "לא רציתי להיות ברשימה השחורה שלה, או להיות המטופלת המעצבנת הזו שתופסת לה יותר מדי זמן", שחזרה בריאיון ל-ABC אוסטרליה.

"הייתי הממומה ובדמעות", סיפרה גרין, "התוכנה המציאה שאני לוקחת פטריות הזיה. מעולם לא עשיתי פטריות בחיים שלי". גרין גילתה את הטעות הקשה רק במרץ, לאחר שעברה ניתוח לאבנים בכליות, כשהציצה במכתב הניתוחי שהאורולוגית שלחה לרופא המשפחה שלה. במכתב נכתב שחור על גבי לבן כי גרין צורכת מיקרו-מינונים של פטריות הזיה, וכי זו עשויה להיות הסיבה לדימומים המוקדמים סביב הכליות שלה.

עבור גרין, החשש מהשלכות הרישום השגוי היה מיידי וממשי, מכיוון שהיא קיבלה באותה עת פיצויים מכוח חוק פיצויי עובדים. היא חששה כי כל אזכור של סמים בלתי חוקיים בתיקה הרפואי עלול לפגוע בזכויותיה ובתיק הפיצויים שלה. "המכתב הזה, שיגיד משהו שאינו מבוסס על שום ראיה, אבל יכולות להיות לו השלכות עצומות עבורי - זה היה די מפחיד", אמרה, "זה הרגיש לי מאוד לא אישי. לא קיבלתי את רמת הטיפול והקרבה מהרופאה שקיוויתי לה במצב כה רגיש".

לאחר שגרין הגישה תלונה, האורולוגית שלחה מכתב התנצלות שבו כתבה: "אנו לוקחים את דיוק התיעוד ברצינות רבה ומצטערים מאוד שזה קרה". הרופאה ציינה כי לא הצליחה לקבוע כיצד נכנסה הטענה על הפטריות, אך נראה מדובר בטעות במהלך תהליך ההכתבה או התמלול. האורולוגית תיקנה את התיק הרפואי והבטיחה לבחון מחדש את השימוש ב-AI במרפאתה, אך נמנעה מלהשיב לשאלות נוספות.

"כשאתה בודק את המכתב הזה, אתה אמור להיות מסוגל לתקן את זה לפני שזה יוצא לדרך", אמרה גרין בכעס, "למה אתה לא מסונכרן עם כל אחד מהמטופלים שלך ועם מה שקורה אצלם?". גרין הודתה כי היא מרגישה ברת מזל שהיא שהצליחה לתפוס את הטעות בזמן, אך מזהירה מטופלים אחרים: "אני אוהבת AI, אבל הרכיב החיוני הוא בן האנוש. בסופו של דבר, מה שקרה כאן זה בעיקר חוסר מעורבות אנושית".

תופעה מתרחבת: כשה-AI "מוציא דיבה" במרפאה

סיפורה של גרין אינו מקרה בודד. דוח חדש של ארגון שמירת הפרטיות "Digital Rights Watch" (DRW)  שהגיע לידי ABC מזהיר מפני הסכנות שבשימוש בכותבי AI רפואיים, עקב נטייתם "להזות" (Hallucinate) תסמינים ומחלות. בין הדוגמאות שנחשפו בדוח: מקרה שבו ה-AI בלבל בין שד ימין לשד שמאל באבחון סרטן השד, ומקרה שבו נקבע בטעות כי מטופל סובל מאפילפסיה.

למרות שהרגולטורים מבהירים כי חובה על הרופאים לבדוק כל פלט של AI לפני שליחתו, מומחים שדיברו עם רשת החדשות הצביעו על כך שרופאים רבים מפתחים "אמון יתר" בטכנולוגיה לאחר מספר שבועות של שימוש, ומפסיקים לבקר את הסיכומים.

רופאים רבים ציינו כי ה-AI מקל משמעותית על העומס הבירוקרטי ומאפשר להם להתרכז במטופל. עם זאת, מומחים ממליצים למטופלים לא להסס, לשאול שאלות נוקבות לגבי השימוש ב-AI, לוודא שהרופא עבר על הרישום, ולדעת כי זכותם מלאה לסרב להקלטה.