מחקר בינלאומי חדש ופורץ דרך, שנערך בהובלת המרכז הרפואי רמב"ם והטכניון, מעורר דאגה משמעותית בקרב הקהילה הרפואית בנוגע להסתמכות על מערכות בינה מלאכותית לצורך אבחון וטיפול במחלות חניכיים. המחקר, שפורסם בכתב העת המדעי היוקרתי Journal of Clinical Periodontology, בחן לראשונה באופן השוואתי 11 מערכות AI מובילות ומצא כי למרות היותן כלי עזר מבטיח, הן עלולות להפיק המלצות מסוכנות למטופלים בשיעור גבוה להפתיע.
המחקר, בראשותו של ד"ר יניב מאייר, מנהל תוכנית ההתמחות בפריודונטיה ברמב"ם, התבסס על ניתוח של 30 תרחישים קליניים שונים המדמים מציאות רפואית יומיומית. התרחישים כללו קשת רחבה של מצבים, החל ממחלות חניכיים כרוניות ועד למקרי חירום חריפים ומצבים רפואיים מורכבים המשלבים מחלות רקע וצילומי רנטגן. כל אחת מהמערכות התבקשה לספק אבחנה ותוכנית טיפול מלאה, כאשר התוצאות נבחנו באופן סמוי על ידי פאנל של שישה מומחים בינלאומיים ממדינות שונות, בהן ספרד, איטליה וישראל.
הנתונים שנחשפו במחקר מעוררים תהיות קשות לגבי בטיחות המטופל; החוקרים מצאו כי *שיעור התשובות שעלולות היו להוביל להחלטה קלינית מסוכנת נע בין 3.3% ל-46.7%*, בהתאם למערכת שנבדקה. אחת התקלות החמורות שנמצאו היא תופעת ה"הזיות", במסגרתה *המערכות המציאו מידע רפואי שגוי, תרופות שאינן קיימות, או פרוצדורות כירורגיות שאינן מבוססות*. המומחים שדירגו את המערכות העניקו ציונים על פי מדדי דיוק, בטיחות ושלמות תוכנית הטיפול, וגילו כי הפערים המרכזיים בין המערכות צפים דווקא במקרים מורכבים הדורשים שיקול דעת קליני רחב.
מניתוח המערכות השונות עולה כי פלטפורמות המבוססות על טכנולוגיית RAG, כמו OpenEvidence ו-Perplexity, דורגו ראשונות והציגו תוצאות בטוחות יותר בזכות יכולתן לשלוף מידע עדכני ממקורות מדעיים בזמן אמת. עם זאת, ד"ר מאייר מדגיש כי אפילו המערכות המצטיינות אינן חפות מטעויות קריטיות.
החוקרים מסכמים כי הבינה המלאכותית אינה יכולה להחליף את שיקול הדעת האנושי, שכן הכרעה שגויה בעיבוד הנתונים עלולה להוביל לנזק ממשי. המסר המרכזי של המחקר הוא ברור: ה-AI הוא כלי תומך החלטה בלבד, והאחריות הסופית על חיי המטופל חייבת להישאר בידי הרופא המומחה.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו