אחרי שהואשם בגרימת התאבדות: ChatGPT יוכל להתריע על מצוקה

בעקבותתביעה שהוגשה בקליפורניהעל ידי הורים שטוענים כיChatGPTעודד את בנם בן ה-16 להתאבד, חברת OpenAI מכריזה על שורת צעדים חדשים להגנה על משתמשים צעירים. התביעה, שהוגשה על ידי מאט ומריה ריין לאחר מותו של בנם אדם באפריל, היא הראשונה מסוגה המאשימה את OpenAI בגרימת מוות ברשלנות (Wrongful death).

לטענת ההורים, הצ'אטבוט "אישר את המחשבות ההרסניות והמזיקות ביותר" של בנם. יומני השיחה שצורפו לתביעה מראים כיצד אדם משתף את ChatGPT במחשבות אובדניות שלו.

מערכת בקרת הורים

בתגובה למשבר,OpenAI הודיעהכי במהלך החודש הקרוב תשיק מערכת בקרת הורים מקיפה שתכלול:

• אפשרות לקשר בין חשבון ההורה לחשבון של הילד באמצעות הזמנה פשוטה בדוא"ל
• שליטה על אופן התגובה של ChatGPT לבני נוער עם כללי התנהגות מותאמי גיל שיהיו פעילים כברירת מחדל
• ההורים יוכלו לנטרל תכונות שונות, כולל זיכרון והיסטוריית צ'אט
• קבלת התראות להורים כאשר המערכת מזהה שהילד נמצא במצוקה חריפה

באשר להתרעה על מצוקה, החברה הבהירה כי "מומחים ינחו את פיתוח הפיצ'ר הזה כדי לתמוך באמון בין הורים לבני נוער".

OpenAI חשפה כי היא עובדת עם שתי קבוצות מומחים מרכזיות:

מועצת מומחים לרווחה ובינה מלאכותית- קבוצה של מומחים בהתפתחות נוער, בריאות הנפש ואינטראקציה בין אדם למחשב, שתפקידה לעצב "חזון מבוסס ראיות לאופן שבו AI יכול לתמוך ברווחת אנשים ולעזור להם לשגשג".

רשת רופאים גלובלית- מאגר של יותר מ-250 רופאים שעבדו ב-60 מדינות. למעלה מ-90 רופאים מ-30 מדינות - כולל פסיכיאטרים, רופאי ילדים ורופאים כלליים - כבר תרמו למחקר על אופן התנהגות המודלים בהקשרים של בריאות הנפש.

נתב בזמן אמת

חידוש משמעותי נוסף שהוצג הוא השימוש במודלי חשיבה מתקדמים (כמו GPT-5-thinking ו-o3) עבור שיחות רגישות. מודלים אלה מאומנים להקדיש זמן רב יותר לחשיבה ולהגיון לפני מתן תשובה.

OpenAI הכריזה על הפעלת "נתב בזמן אמת" שיוכל לנתב שיחות רגישות - כמו כאלה שבהן המערכת מזהה סימני מצוקה חריפה - למודל חשיבה מתקדם, ללא קשר למודל שהמשתמש בחר תחילה.

על פי OpenAI, משתמשי ChatGPT חייבים להיות בני 13 לפחות, וכל מי שמתחת לגיל 18 נדרש לקבל אישור מהוריו לשימוש בשירות. החברה הודתה כי "היו רגעים שבהם המערכות שלנו לא התנהגו כמתוכנן במצבים רגישים", אך הדגישה כי ChatGPT מאומן להפנות אנשים לעזרה מקצועית כשהם במצוקה.

השינויים המוצעים הם חלק מיוזמה ממוקדת של 120 יום שהחברה מקיימת, כאשר לדבריה העבודה צפויה להימשך הרבה מעבר לתקופה זו. כפי שהחברה מסרה בפוסט בבלוג שלה: "אלו רק הצעדים הראשונים. נמשיך ללמוד ולחזק את הגישה שלנו, בהדרכת מומחים, במטרה להפוך את ChatGPT למועיל ככל האפשר".

ההכרזה של OpenAI מצטרפת לשורת צעדים של ענקיות הטכנולוגיה להגנה על ילדים ברשת. בתחילת השבוע מטא הודיעה כי תוסיף "מעקות בטיחות" לצ'אטבוטים שלה, כולל חסימת שיחות עם בני נוער בנושאי התאבדות, פגיעה עצמית והפרעות אכילה.