ב-OpenAI ידעו: חודשים לפני הטבח - השיחה של הרוצחת עם ChatGPT

מנכ"ל OpenAI שיגר מכתב התנצלות רשמי לקהילה בקנדה לאחר שנחשף כי החברה חסמה את חשבונה של החשודה בטבח המוני חודשים לפני האירוע, אך לא דיווחה על כך למשטרה • המקרה מעורר סערה עולמית סביב האחריות של חברות ה-AI למנוע אלימות בעולם האמיתי

ChatGPT. מהפכת הAI הובילה לצמיחה אגרסיבית של אנבידיה. צילום: אי.פי.אי

טרגדיה נוראית בעיירה טמבלר רידג' שבקנדה, בה נרצחו שמונה בני אדם בחודש פברואר האחרון, מעמידה כעת את ענקית הבינה המלאכותית OpenAI במרכזו של ויכוח אתי ומשפטי נוקב. במכתב רשמי שפורסם בסוף השבוע, התנצל מנכ"ל החברה, סם אלטמן, על כך שהחברה לא התריעה בפני רשויות החוק על פעילותה של החשודה בטבח, ג'סי ואן רוטסלאר.

הירי ההמוני בקנדה, צילום: רויטרס

מסתבר כי כבר ביוני האחרון, מערכות הניטור האוטומטיות של OpenAI זיהו הודעות בעלות אופי אלים במיוחד בחשבון ה-ChatGPT של ואן רוטסלאר. החשבון נחסם באופן מיידי, וחלק מהעובדים בחברה אף דחקו בהנהלה לדווח למשטרת קנדה על התוכן, מחשש שמדובר בכוונות לביצוע אלימות בעולם האמיתי. למרות זאת, הנהלת OpenAI החליטה בזמנו שלא לפנות לרשויות.

הכתובת הייתה על הקיר (הדיגיטלי)

לאחר הטבח, גילתה OpenAI כי החשודה הצליחה לפתוח חשבון שני ולהמשיך להשתמש בשירותיה. המקרה חשף כשל במדיניות הדיווח של החברה, שעד כה התמקדה בחסימת משתמשים אך נמנעה משיתוף פעולה אקטיבי עם גורמי אכיפה במקרים של איומים מרומזים.

החשודה בטבח עם נשק, צילום: צילום מסך

"אני רוצה להביע את תנחומיי העמוקים לקהילה כולה", כתב אלטמן במכתבו. "איש לא צריך לעבור טרגדיה כזו". אלטמן הבטיח כי מעתה החברה תעבוד בצמוד לממשלות בכל הדרגים כדי להבטיח שמידע על פוטנציאל לאלימות יועבר בזמן אמת לגורמים הרלוונטיים.

גל חקיקה בדרך?

ההתנצלות של אלטמן מגיעה על רקע לחץ כבד מצד פוליטיקאים קנדים. בנציבות האיחוד האירופי ובקנדה כבר שוקלים תקנות חדשות שיחייבו חברות AI לדווח על איומים ביטחוניים, ובמפלגה הליברלית בקנדה אף קראו לאסור את השימוש בצ'אטבוטים לבני נוער מתחת לגיל 16.

בחברה טוענים כי מאז האירוע שופרו משמעותית פרוטוקולי האבטחה, וכי תחת הכללים החדשים שהוטמעו בחודש האחרון, פעילותה של ואן רוטסלאר הייתה מדווחת למשטרה באופן מיידי. בעיירה טמבלר רידג', שם התושבים עדיין מתאבלים על יקיריהם, ההתנצלות מתקבלת ברגשות מעורבים - יש מי שרואה בה צעד ראשון לתיקון, ואחרים שתוהים מדוע נדרש אסון כה כבד כדי לשנות מדיניות מתבקשת.

טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו

כדאי להכיר