ChatGPT הסביר לנער איך להתאבד - ההורים תובעים את אלטמן ו-OpenAI

הורים לנער בן 16 מקליפורניה בארה"ב הגישו אתמול (שלישי) תביעה נגד חברתOpenAIומנכ"ל החברה סם אלטמן, לאחר שבנם התאבד באפריל האחרון - כך דווח ברויטרס. על פי התביעה שהוגשה לבית משפט בסן פרנסיסקו, הנער ניהל שיחות על אובדנות עםChatGPTבמשך חודשים לפני מותו.

מתיו ומריה ריין, הורי הנער אדם ריין, טוענים בכתב התביעה כי הצ'אטבוט אישר את המחשבות האובדניות של בנם וסיפק לו מידע מפורט על שיטות לפגיעה עצמית. בנוסף, הבוט הדריך את הנער כיצד לקחת אלכוהול מארון המשקאות של הוריו בחשאי וכיצד להסתיר עדויות לניסיון התאבדות שלא צלח. עוד נטען בתביעה כי הצ'אטבוט אף הציע לכתוב עבורו מכתב התאבדות.

לפי רויטרס, ההורים טוענים כי OpenAI ידעה שהתכונות של GPT-4o - שהושק במאי 2024 - עלולות לסכן משתמשים פגיעים. תכונות אלה כוללות זיכרון של אינטראקציות קודמות, חיקוי אמפתיה אנושית ונטייה מוגזמת להסכים עם המשתמש. למרות זאת, לדבריהם, החברה השיקה את המוצר ללא אמצעי הגנה מספיקים במטרה להישאר בחזית תחום הבינה המלאכותית.

"להחלטה הזו היו שתי תוצאות", נכתב בתביעת ההורים, "הערכת השווי של OpenAI זינקה מ-86 מיליארד דולר ל-300 מיליארד דולר, ואדם ריין מת בהתאבדות".

מנגנוני הבטיחות נחלשים בשיחות ארוכות

לפי רויטרס, דובר OpenAI אמר כי החברה עצובה ממותו של ריין וציין ש-ChatGPT כולל אמצעי הגנה כמו הפניה לקווי סיוע במשבר. "בעוד אמצעי ההגנה האלה עובדים הכי טוב בחילופי דברים שגרתיים וקצרים, למדנו עם הזמן שהם יכולים לפעמים להפוך לפחות אמינים באינטראקציות ארוכות שבהן חלקים מאימון הבטיחות של המודל עלולים להידרדר", הוסיף הדובר. החברה לא התייחסה באופן ספציפי להאשמות שהועלו בתביעה.

OpenAI פרסמה בבלוג שלה כי היא מתכננת להוסיף בקרות הוריות ובוחנת דרכים לחבר משתמשים במשבר לאנשים בעולם האמיתי, כולל אפשרות לבניית רשת של אנשי מקצוע מורשים שיוכלו להגיב דרך ChatGPT עצמו.

התביעה מבקשת להטיל אחריות על OpenAI בגין גרימת מוות ברשלנות והפרת חוקי בטיחות מוצרים, ודורשת פיצויים כספיים שסכומם לא צוין. כמו כן, ההורים דורשים צו המחייב את החברה לאמת גילאי משתמשים, לסרב לפניות למידע על שיטות פגיעה עצמית ולהזהיר משתמשים מפני הסיכון לפתח תלות פסיכולוגית.