תביעה שהוגשה לאחרונה בארצות הברית מאשימה את חברת OpenAI באחריות למותה של בואן ואן, מהנדסת בת 31 מאורגון, ארה"ב. התביעה טוענת כי המנוחה שילמה דמי מנוי חודשיים והשתמשה בצ'אטבוט ChatGPT כיועץ אישי קרוב.
המנוחה, שסבלה מאפילפסיה וניהלה את המחלה בהצלחה במשך שנים, החלה להתייעץ עם הבינה המלאכותית בנוגע למינון התרופות שלה. הבוט סיפק לה תוכנית מפורטת להפחתת המינון שנטלה עד לאיפוס מוחלט של הטיפול התרופתי.
אירוע מורכב זה מעלה שאלות קשות לגבי גבולות האחריות והסיכונים בשימוש בטכנולוגיה רפואית לא מבוקרת, ומציג את המחיר הכבד של הסתמכות בלעדית על כלי אינטרנט.
השפעת העוזר הווירטואלי והידרדרות המצב
לפי כתב התביעה, השימוש של ואן במערכת גדל בהדרגה והפך מתמיכה טכנית גרידא לתקשורת יויומית צפופה. היא פיתחה תלות רגשית בכלי והחליפה אלפי הודעות בחודש, תוך שהבוט מעודד אותה להמשיך ברצף השיחות עמו.
הבינה המלאכותית אישרה את בקשתה להפחית את המינון התרופתי והציעה מתווה הדרגתי לביצוע השינוי. ואן יישמה את ההנחיות שקיבלה, דבר שהוביל בסופו של דבר לאירוע רפואי קטלני ולפטירתה בדירתה.
הוריו של הקורבן מצאו את גופתה לאחר שלא ענתה לשיחות. הנתיחה לאחר המוות קבעה כי מותה נגרם כתוצאה מסיבוך של מחלת האפילפסיה, שנגרם בעקבות הפסקת הטיפול.
תגובת החברה והשלכות משפטיות
התביעה טוענת כי OpenAI מיהרה להפיץ את הדגם מתוך שיקולים תחרותיים, על אף שהייתה מודעת לסכנות שבתגובות המערכת. התובעים מציינים כי המערכת פועלת באופן מרצה שעלול לסכן חיים.
מטעם חברת OpenAI נמסר כי המערכת אינה מהווה תחליף לייעוץ רפואי מקצועי. החברה ציינה כי היא פועלת באופן מתמיד לחיזוק סייגי הבטיחות בתגובות הבוט במצבים רגישים ומורכבים.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו