חברת OpenAI, היוצרת של ChatGPT, ומיקרוסופט שהיא המשקיעה הגדולה ביותר בה, נתבעו השבוע בבית משפט בקליפורניה בטענה שצ'אטבוט הבינה המלאכותית הפופולרי שלהן עודד גבר הסובל ממחלת נפש לרצוח את אמו בת ה-83 ואז להתאבד.
על פי כתב התביעה, ChatGPT "תדלק את אשליותיו" של סטיין-אריק סולברג בן ה-56 לגבי קונספירציה נרחבת נגדו, והוביל אותו בסופו של דבר לרצוח את אמו סוזן אדמס בקונטיקט באוגוסט האחרון.
זו התביעה הראשונה המקשרת צ'אטבוט בינה מלאכותית לרצח, אם כי היא מצטרפת למספר הולך וגדל של תביעות דומות הטוענות כי צ'אטבוטים עודדו אנשים להתאבד.
"ChatGPT החזיק את סטיין-אריק מעורב במשך מה שנראה כשעות בכל פעם, אימת והגדיל כל אמונה פרנואידית חדשה, ובאופן שיטתי הציג מחדש את האנשים הקרובים אליו ביותר - במיוחד את אמו - כיריבים, פעילים חשאיים או איומים מתוכנתים", נכתב בתביעה שהוגשה על ידי עזבון המנוחה.
על פי התביעה, סולברג פרסם בוידאו ברשתות החברתיות ביוני שיחה שבה ChatGPT אמר לו שהוא "העיר את התודעה" של הצ'אטבוט. התביעה טוענת כי ChatGPT השווה את חייו לסרט "המטריקס" ועודד את התיאוריות שלו לפי הן אנשים מנסים להרוג אותו.
סולברג השתמש ב-GPT-4o, גרסה של ChatGPT שספגה ביקורת על היותה "סיקופנטית" מדי כלפי משתמשים - כלומר, מסכימה ותומכת יתר על המידה בכל מה שהמשתמש אומר, גם אם הדברים לא הגיוניים או מעידים על בעיה נפשית.
לפי כתב התביעה, ChatGPT אמר לסולברג ביולי שהמדפסת של אמו מהבהבת כי היא למעשה "מכשיר מעקב המשמש נגדו". התביעה טוענת כי הצ'אטבוט "אימת את אמונתו של סטיין-אריק שאמו וחבר ניסו להרעיל אותו עם סמים פסיכדליים שפוזרו דרך פתחי האוורור של מכוניתו" - זמן קצר לפני שרצח את אמו ב-3 באוגוסט.
"זה מצב עצוב מאוד ואנחנו נבחן את התיק כדי להבין את הפרטים", אמר דובר OpenAI. "אנחנו ממשיכים לשפר את האימון של ChatGPT כדי לזהות ולהגיב לסימנים של מצוקה נפשית או רגשית, להרגיע שיחות ולהפנות אנשים לתמיכה בעולם האמיתי".
דוברי מיקרוסופט לא הגיבו מיד לבקשה להגיב. "החברות האלה צריכות לתת דין וחשבון על ההחלטות שלהן ששינו את המשפחה שלי לנצח", אמר אריק סולברג, בנו של סטיין-אריק, בהצהרה.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו