חיי אדם בידיה של בינה מלאכותית: הטעויות עלולות להיות קטלניות

היכולות האדירות של הבינה המלאכותית לבצע משימות ולנפק תוצרים, לספק מידע ולמלא פונקציות של בני אדם בחלק מהתפקידים, הפכו לשיחת היום • אחד הענפים שמייצר שיח משמעותי בנושא הוא העולם הרפואי • העיסוק בחיי אדם באמצעות מכונה שמקבלת מידה מה של עצמאות, מעורר חששות

האם הבינה המלאכותית עתידה להשתלט על עולם הרפואה? אילוסטרציה, צילום: מזור רובוטיקה

אם אתם נמצאים על כדור הארץ בחצי שנה האחרונה, כנראה ששמעתם על המהפכה הטכנולוגית שאנחנו נמצאים בעיצומה. הבינה המלאכותית הגנרטיבית (Generative AI) בדמות ה-ChatGPT מבית OpenAI, יצאה לאוויר העולם לפני קרוב לשישה חודשים, ומאז הדמיון רב על המציאות.

היכולות האדירות של הבינה המלאכותית לבצע משימות ולנפק תוצרים, לספק מידע ולמלא פונקציות של בני אדם בחלק מהתפקידים, הפכו לשיחת היום. מטקסט דרך תמונה ועד וידאו, הבינה המלאכותית מעוררת עניין בלתי פוסק וסביבה התחילה להיבנות כלכלה שלמה - בדומה לטרנד האפליקציות עם השקת הסמארטפון.

עם שלל היכולות שלה, הבינה המלאכותית נושאת עמה גם לא מעט שאלות אתיות ותרבותיות. בדומה לכל תחום חדש, הרגולציה מופיעה מעט אחריו, בהתאם להתפתחות התחום, ובאופן שונה בין מדינה למדינה. כבר עם השקת ה-ChatGPT בסוף השנה שעברה, החלו דיונים בשאלות האסדרה הראויה בהתחשב באפשרויות השימוש המגוונות בבינה המלאכותית הגנרטיבית.

סם אלטמן, מנכ"ל OpenAI באוניברסיטת תל אביב, צילום: רויטרס/אמיר כהן

בינה מלאכותית במוסדות בריאות: המהפכה כאן

אחד הענפים שמייצר שיח משמעותי בנוגע לשימוש הפוטנציאלי בבינה מלאכותית, הוא העולם הרפואי. העיסוק בחיי אדם באמצעות מכונה שמקבלת מידה מה של עצמאות, מעורר חששות וטיעונים לכאן או לכאן. ממש לאחרונה, מנהל התרופות והבריאות האמריקאי (FDA), פירסם את התכנית שלו לשילוב בינה מלאכותית במוסדות בריאות. בשנים האחרונות הארגון אישר למעלה מ-500 מוצרים שונים העושים שימוש כזה או אחר בבינה מלאכותית. המהפכה כבר כאן.

אבל עוד לפני הדיון בשאלת האסדרה של בינה מלאכותית בעולם הרפואי, מידת ההסתמכות עליה וגבולות השימוש בה, צריך להבין אתגר ייחודי שאופייני בעיקר לעולם הרפואי - קשיי נגישות לדאטה פרסונלית אמיתית (Real-world data). כדי להמשיך ולפתח כלים טכנולוגיים שיסייעו למערכת הרפואית להתייעל, לפתח תרופות מותאמות אישית ולהציל חיי אדם, שחקנים בעולם הרפואי - מחברות פארמה ועד סטארטאפים וגופי מחקר בתחום - זקוקים לדאטה ממשית, עליה יוכלו לבנות מודלים ולאמן אותם.

אלא מה, דווקא בעולם הרפואי האתגר להשיג את הדאטה הזו הוא כפול ומכופל. מידע על פציינטים באופן טבעי הוא רגיש וזוכה להגנה מתקנות פרטיות כאלה ואחרות (דוגמת GDPR ורגולציות נוספות). כך, מוסדות רפואיים ובתי חולים מחזיקים במאגרי נתונים גדולים המבוססים על הפציינטים שלהם, אך מנועים מלהשתמש בדאטה הזו ולחלוק איתה עם גופי מחקר או סטארטאפים.

גרט-יאן אוסקם בבית החולים, לאחר שהצליח ללכת על רגליו בזכות שבב "מוח-מחשב" שהושתל במוחו, צילום: אי.אף.פי

אתגר הדאטה: הגישה למידע היא קריטית

גישה לנתונים רפואיים מדויקים בעולם האמיתי מאפשרת לסטארטאפים ולחברות בענף הבריאות לזהות מגמות ודפוסים שיכולים להוביל לפיתוח של טיפולים וטכנולוגיות חדשות, ולהביא לפתרונות חדשניים. דאטה רפואית מהימנה משמשת גם כדי לעקוב אחר היעילות של הטיפולים הקיימים, וכך לשפר אותם ללא הרף.

נדרשות כמויות עצומות של נתונים קליניים כדי לפתח יכולות בינה מלאכותית, טיפולים חדשניים טרנספורמטיביים וטכנולוגיות רפואיות אחרות מבוססות מחשוב. מעבר לכמויות, נדרשים גם סוגי דאטה מגוונים. כך למשל, כדי לאמן מודל שרץ על סריקות CT ומאתר גידולים סרטניים, נדרשות סריקות בשילוב התיקים הרפואיים כך שהיתן יהיה באמת לאמן את המודל ובהמשך הוא יוכל לעשות זאת. סוגי המידע יכולים לנוע מטקסטים חופשיים, תמונות, סרטונים ועד מידע גנטי.

עם זאת, ברוב המקרים הנתונים הקליניים הללו אינם נגישים עבור חברות והן זמינים רק בתוך מערכות בריאות יחידניות, ללא נגישות בקנה מידה לאומי או אפילו אזורי. הנתונים הללו קשים להשגה גם עבור חברות פארמה או בריאות המעוניינות לבדוק השערות. טווח הטעות במוצרים מבוססי בינה מלאכותית בתחום הבריאות לעומת ענפים אחרים, הוא צר יותר. טעויות במוצרים רפואיים עלולות להיות קטלניות, ולכן חשיבות הגישה לדאטה מהימנה ועדכנית, הופכת קריטית יותר.

אתגר הדאטה הוא משמעותי. כדי להגיע לרמת נגישות גבוהה למידע, כזו שתאפשר להניע חדשנות, על גורמי האסדרה כמו גם על החברות המסחריות עצמן וגופי המחקר, לפעול באופן אקטיבי. החל בהקמת שותפויות ממשלתיות-פרטיות במסגרתן גופים רפואיים ממשלתיים כמו בתי חולים ציבוריים חוברים לגופי מחקר וסטארטאפים כדי לאפשר שימוש במידע הרב שנצבר בתוך המערכות באופן אנונימי ובטוח כמובן, דרך הורדת חסמים הן ברמת הרגולציה והן ברמת הטכנולוגיה, ועד נקיטת יוזמה מצד ארגוני הבריאות שצריכים לפעול באופן אקטיבי כדי להסדיר את השימוש בכל הדאטה הרב שנצבר אצלם - דאטה שיכולה לאפשר האצה של פיתוחים ושימוש נרחב ומדויק יותר ב-AI בעולם הרפואי.

טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו

כדאי להכיר