"דוקטור גוגל" הפך בשנים האחרונות להיות המוצא המיידי, ואפילו המובן מאליו, עבור רבים שמנסים לחסוך ביקור אצל רופא בכל פעם שהם או מי מבני משפחתם מתחיל להפגין סימני מחלה. בשנה האחרונה, עם השתלטות הבינה המלאכותית על חיינו, כמובן שרבים החלו לשאול גם אותה – אלא שכעת מתברר שממש לא כדאי לסמוך עליה. נעזרנו ב-ChatGPT כדי לספר מדוע ChatGPT הוא המקום האחרון שבו אתם צריכים לנסות לאבחן את המחלות של בני משפחתכם.
מחקר שנערך לאחרונה מזהיר מהסכנות הפוטנציאליות של הסתמכות על בינה מלאכותית – ובמיוחד ChatGPT – לאבחון ילדים. המחקר, שפורסם בתחילת החודש בכתב העת JAMA Pediatrics, חושף אי דיוקים מדאיגים, ומדגיש את החשיבות של זהירות כאשר מחפשים מידע רפואי על מחלות ילדים במנועי בינה מלאכותית.
צוות של 7 חוקרים מהמרכז הרפואי לילדים על שם כהן בניו-יורק העריכו את הביצועים של ChatGPT באבחון מקרים של ילדים. הם הזינו פרטים של 100 מקרים שפורסמו בכתבי עת רפואיים אל תוך מודל GPT-3.5 של OpenAI, וביקשו ממנו לספק אבחנות מבדלות וסופיות. אמנם, היו מקרים שבהם האבחונים של המודל התיישרו עם אלה של הרופאים – אך הוא הפגין חוסר דיוק מטריד, כשלא הצליח לאבחן נכון 83% מהמקרים. ב-72 מהמקרים האבחנות היו שגויות, וב-11 נוספים הן פשוט היו רחבות מדי מכדי להיות יעילות. המחקר התבסס על מחקר דומה מלפני חצי שנה שבו נבדק המודל המתקדם ביותר של החברה, GPT-4, על מקרים רפואיים ממטופלים בכל הגילים וטעה ב-61% מהם.
מעניין לציין כי למרות הממצאים המטרידים, החוקרים הדגישו כי בינות מלאכותיות מסוגה של ChatGPT עדיין מציעות ערך רב ככלי ניהולי עבור רופאים – במיוחד ביכולות רישום הערות. עם זאת, הם הדגישו את התפקיד הקריטי של הניסיון הקליני האנושי בתהליך האבחון. הם הוסיפו כי המגבלות של הבינה המלאכותית כוללות חוסר יכולת לבסס קשרים בין הפרעות רפואיות, שדורש ‘אימון’ מתוגבר בתחום הזה כדי לשפר את דיוק האבחון, לצד גישה למידע בזמן אמת כדי שהאבחונים יהיו מבוססים על המחקרים העדכניים ביותר.
כמובן שהחוקרים המליצו להורים לפנות לרופאים בכל מקרה של מחלה, לאבחון המבוסס על הבנה וניסיון מקצועיים בתחום הבריאות, ולהימנע מהתבססות על בינות מלאכותיות.