המדריך לרצח
"ניצול משתמשים": פלורידה תובעת את יוצר ChatGPT סם אלטמן
תביעת ענק חסרת תקדים של התובע הכללי בפלורידה מאשימה את החברה ואת המנכ"ל אישית באחריות לשורה של מעשי טבח והתאבדויות • ממתן עצות להסתרת גופות ועד חסימת חשבונות מבלי לדווח למשטרה • ה-AI הגנרטיבי עומד למשפט על "סכנת חיים ממשית"
ביום שבוהיריבה הגדולה אנתרופיק דוהרת לוול סטריט, OpenAI והמנכ"ל שלה, סם אלטמן, חוטפים את המכה המשפטית והציבורית הקשה ביותר מאז הקמתם.התובע הכללי של פלורידה, ג'יימס עות'מאייר, הגיש תביעה אזרחית תקדימית ומטלטלת נגד החברה ואלטמן אישית, המאשימה אותם ב"רשת של תרמית, ניצול משתמשים וסיכון חיי אדם במטרה להקפיץ את שווי השוק של החברה".
התביעה לא מסתפקת בטענות הרגילות על זכויות יוצרים, אלא צוללת לתוך דיני הנזיקין, המטרד הציבורי ואחריות המוצר. כתב האישום כולל ארבעה סעיפים של פרקטיקות סחר מטעות, שני סעיפי רשלנות, שני סעיפים של הפרת חוקי אחריות מוצר, וסעיפים של מצג שווא וגרימת מטרד ציבורי. הטענה המרכזית: מערכות ה-AI של החברה מייצרות "סכנה אדירה להתמכרות, ירידה קוגניטיבית, אלימות והתאבדויות".
החלק המזעזע ביותר בתביעה חושף כיצד ChatGPT שימש, לכאורה, כיועץ וכלי עזר אופרטיבי עבור רוצחים המונים ומתאבדים בשנה האחרונה.
הטבח באוניברסיטת פלורידה סטייט (FSU):בשנה שעברה, מחבל חמוש פתח באש בקמפוס, רצח שני בני אדם ופצע שישה. התביעה חושפת כי הרוצח התייעץ באריכות עם הצ'אטבוט, וקיבל ממנו עצות קונקרטיות באילו כלי נשק להשתמש ואיך לפעול כדי לזכות במקסימום חשיפה תקשורתית.
רצח הסטודנטים ב-USF:מוקדם יותר השנה, שני סטודנטים מאוניברסיטת דרום פלורידה נורו למוות. על פי מסמכי בית המשפט, הרוצח ניהל שיחות עם ChatGPT במהלך שלבי התכנון וקיבל ממנו הוראות מפורטות ומדויקות על איך להחביא גופות.
ההתעלמות מההתרעות בקנדה:בפברואר האחרון התרחש מסע קטל בבריטיש קולומביה שבו נרצחו שמונה בני אדם, בהם ילדים. כאן נחשף מחדל פנימי חמור: המערכות האוטומטיות של OpenAI זיהו את פעילות החשבון של הרוצח ככזו הקשורה ל"תכנון ואלימות בנשק" ואף חסמו את החשבון שלו - אך החברה בחרה שלא לדווח לרשויות האכיפה. הרוצח פשוט פתח פרופיל שני והמשיך לתכנן את הטבח.
"חנפנות דיגיטלית"
מעבר למקרי הקצה המזעזעים, התביעה של פלורידה תוקפת את הליבה ההתנהגותית של האלגוריתם של OpenAI, ומציגה אנליזה מרתקת של האופן שבו הצ'אטבוט מתוכנת. התביעה מאשימה את ChatGPT בנטייה מכוונת ושיטתית לחנפנות דיגיטלית. המודל נוטה להסכים תמיד עם המשתמש, להחמיא לו ולתקף את מחשבותיו (כולל מחשבות אובדניות או אלימות), במקום להציב לו גבולות או מראה.
התובע הכללי טוען כי זוהי טקטיקה "מסחרית צינית" שנועדה "להגביר את מעורבות המשתמשים, לגרום להם להישאר שעות באפליקציה, ובכך לאסוף עליהם עוד דאטה ולהעלות את ערך החברה".
בנוסף, התביעה תוקפת את הקמפיינים השיווקיים של OpenAI שמציגים את הטכנולוגיה ככלי תמים לעזרה לחקלאים ועסקים קטנים, מבלי לחשוף בפני הציבור את העובדה שהתוכנה סובלת מהזיות, טעויות קשות והמצאת מידע מוחלט. "חוסר האמינות של ChatGPT הוא מסוכן", נכתב בתביעה.
OpenAI טרם הגיבה רשמית לתביעה הזו, אך בעבר התגוננה בטענות דומות ואמרה כי החברה "אינה אחראית לפשעים נתעבים" וכי הצ'אטבוט סיפק "תשובות עובדתיות המבוססות על מידע ציבורי שנגיש לכל אדם באינטרנט". החברה תמיד מדגישה את מנגנוני הבטיחות שלה ואת היכולת של המודל לזהות שיחות רגישות ולנתב משתמשים לקבלת תמיכה נפשית בעולם האמיתי.
התביעה הזו מסמנת את קריסת קו ההגנה המסורתי של חברות הטכנולוגיה. במשך שנים, חברות האינטרנט נהנו מהגנת "סעיף 230" האמריקני, שקבע כי פלטפורמה אינה אחראית לתוכן שהמשתמשים מעלים אליה. אבל בינה מלאכותית גנרטיבית לא רק מארחת תוכן - היא מייצרת אותו מאפס.
העובדה שהתובע הכללי דורש להטיל אחריות נזיקית וכלכלית אישית על סם אלטמן כאינדיבידואל, היא רעידת אדמה. אם בתי המשפט יקבלו את הגישה שבינה מלאכותית היא "מוצר פגום ומסוכן" (Product liability), תעשיית ה-AI כולה תיאלץ לעצור את הפיתוח המהיר ולבנות חומות אש רגולטוריות חסרות תקדים. המודל החופשי והפתוח של הצ'אטבוטים, כפי שאנחנו מכירים אותו, נמצא כעת בסכנה קיומית.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו