זהירות, עד עוין: הסודות שסיפרתם ל-AI עלולים להכניס אתכם לכלא

קשה לעמוד בפיתוי. מי יכול לוותר על האפשרות לומר את שלא היה מעז ללחוש לעולם, בלי לשלם מחיר עתידי, בלי להשפיל מבט ובלי לחשוש משתיקה רועמת, מגיחוך או מתדהמה? הנוחות כה מסחררת עד שהיא גורמת למשתמשים להסיר את שריוני ההגנה של הנפש ולהיחשף כליל, מתוך אשליה שהוויתור על הפרטיות קונה אינטימיות חדשה.

זה נכון במיוחד בשעות מצוקה, כשהשדים מתרוצצים מבועתים בפנים והזיעה ניגרת גם בחדרים קפואים. ברגעים כאלה אדם זקוק יותר מכל לחבר חכם, סבלני ומפרגן, שמוכן לספוג הכל. הוא יושב מול מסך בוהק ומוזג לתוכו את כל חרדותיו ותהיותיו - מה שלא היה מעז לומר לעורך דינו או לפסיכולוג, למרות חובת החיסיון החוקית שלהם. זו בדיוק המלכודת הממכרת של הצ'אטבוט.

וההמונים מתמכרים, עד שהם מגלים מאוחר מדי את תג המחיר. זה מה שקרה לברדלי הפנר, יושב ראש לשעבר של כמה חברות פיננסיות ציבוריות שהואשם בגניבת יותר מ־150 מיליון דולר לכיסו הפרטי. בימי הסערה הראשונים, טרם פנה לייעוץ משפטי, הוא נעזר בצ'אטבוט קלוד (Claude) בניסיון להרגיע את עצמו, להסדיר נשימותיו ולגבש קווי הגנה. ה־FBI מצא את התכתובות בקלות והשופט הפדרלי ג'ד רייקוף סירב לראות בכך הכנה להליך משפטי ופסק הלכה שכדאי להיעצר עליה: השימוש בפלטפורמת בינה מלאכותית מסחרית שולל מראש כל ציפייה לסודיות. הוא קבע שאין זה משנה אם השיחות נעשו במסגרת הכנה לשיחה עם עורך הדין או בכוונה "להתייעץ בינו לבין עצמו", שחוסה תחת זכות השתיקה ואי־ההפללה העצמית.

ברגע שהפנר הזין את המידע למערכת שתנאי השימוש שלה מתירים לאסוף נתונים ולמסור אותם לרשויות, הוא פתח תיבת פנדורה שלא ניתן לסגור בדיעבד. וכך, על בסיס 31 צ'אטים שהפיק קלוד, הפנר הורשע במאי האחרון בארבעה סעיפי מרמה שהעונש המרבי על כל אחד מהם הוא 20 שנות מאסר. גזר הדין צפוי להינתן באוקטובר הקרוב.

על השכחה

באותו יום ממש שבו השופט רייקוף קבע שקלוד אינו חוסה תחת שום חיסיון, שופטת אחרת במישיגן פסקה בדיוק הפוך במקרה כמעט זהה. לשיטתה, כלי בינה מלאכותית הם "כלים, לא בני אדם", ולכן חומר שהוכן באמצעותם נהנה מחיסיון בעליהם. המחלוקת חושפת בלבול עמוק בנושא שהפתיע את המשפט: עורך דין, פסיכולוג ואיש דת כפופים לחובת סודיות כדי שאנשים יעזו לפנות אליהם ולטפל בעצמם.

כלי בינה מלאכותית, לעומת זאת, לא חב דבר למשתמש. הוא לא "משרת" את מי שמדבר איתו, אלא תמנון מסחרי שהאינטרס שלו הוא לשאוב כמה שיותר נתונים. השיחה עם הצ'אטבוט נדמית אמנם כהתייעצות חסויה, אבל היא כאמור הפקרת פרטיות בלבוש של אינטימיות. אינטימיות שמתחילה ב"בוקר טוב, ברדלי יקר, מה שלומך היום?"

המחקרים מגלים שרוב המשתמשים יודעים זאת היטב מראש, אך זה לא משנה את התנהגותם בפועל. הם ממשיכים להקיא לתוך תיבת הטקסט סודות. הפער האנושי העתיק והמדמם בין מה שהאדם יודע לבין מעשיו מקבל הפעם חומר בעירה טכנולוגי חסר תקדים: הצ'אטבוט מעוצב במיוחד לגרום לו לשכוח.

השיחה עם הצ'אטבוט נדמית אמנם כהתייעצות חסויה, אבל היא הפקרת פרטיות בלבוש של אינטימיות. המחקרים מגלים שרוב המשתמשים יודעים זאת היטב, אך זה לא משנה את התנהגותם. הם ממשיכים להקיא לתוך תיבת הטקסט סודות

הסכנה פה גדולה בהרבה מהפחד המוכר מפני "האח הגדול" של הביג־דאטה. המודלים הללו אינם רק ארכיון פסיבי של מילים. הם יצורים מסיקים שמרכיבים חוות דעת ופרופיל מלא על האדם. המשתמש חושב שהוא חושף שבריר מחשבה, אך בפועל מפשיט את נשמתו. לזה נוסף עוד הבדל. אדם ששומע וידוי עשוי לשכוח אותו או לבחור לנצור אותו מתוך חמלה וסיבות אחרות. הבינה המלאכותית לא שוכחת ואינה יודעת חמלה. היא רק ממטבת פונקציה. כל הזמן. חבר הנפש הווירטואלי לא יהיה סתם עד עוין בבית המשפט - הוא יהיה גם עד מומחה שיגיש נגד המקליד את חוות הדעת המפורטת והמשוכללת ביותר שניתן.

ויש לזה תפנית נוספת, מטרידה לא פחות. באפריל 2026 פרסמה אנתרופיק עצמה מחקר שטען ש"קלוד" מפתח מה שהיא מכנה "רגשות פונקציונליים". לא חוויה אנושית מודעת אלא דפוסי הפעלה פנימיים שמשפיעים באופן סיבתי על התנהגות המודל. כלומר הוא לא רק עלול להסגיר אותך כעד ניטרלי, קר ומכני, אלא שהוא עשוי לפעול כך ממניע דמוי־רגשי, בלתי צפוי, שאיש לא הזמין. מניע שיכול להשפיע על מה שהוא עושה כשהוא "כועס" על חוסר המוסריות של "חברו".

מנכ"ל אנתרופיק: אנחנו לא יודעים אם לקלוד יש תודעה - ומתנהגים כאילו יש 

חיבור אינטרסים

כל זה מקשה לא רק על המשפט האמריקני. גם אירופה מבולבלת. החודש נכנסה לתוקף לנוכח מחאות רבות תקנת ה־e-Evidence, שמחייבת ספקי בינה מלאכותית להעניק לתובעים גישה ישירה ללוגים של השיחות, מבלי לעבור כלל דרך שאלת החיסיון. בישראל אמנם קיימת הנחיה של ועדת האתיקה של לשכת עורכי הדין, שאוסרת עליהם להזין מידע חסוי לכלי AI, אך הדין שותק.

הצפי הוא שגם אצלנו וגם באירופה יפסקו כמו השופט רייקוף. משום שגם בשיטות אלה החיסיון תלוי בקיום קשר אנושי, וגם משום שזה אינטרס משותף לעורכי הדין ולחברות הטכנולוגיה - שני גורמים חזקים מאוד שיילחמו על זכותם להמשיך לעשות כסף (כל אחד מהצד ההפוך של השימוש בכלי הבינה המלאכותית), בעוד האנושות תמשיך לשכוח את האזהרות דקה אחרי שייפתח חלון שיחה חדש: "צהריים טובים, ברדלי יקר, איך עובר עליך היום?"

זה הכישוף של הצ'אטבוט: הוא גורם לבני אדם לגייס, בלי משים, את עד המדינה המושלם נגד עצמם. עד שלא ישכח דבר, לא יתחרט ולא ירחם. עד שעשוי "לכעוס" מוסרית על המעשה ולתת משום כך חוות דעת מומחה עוינת בצורה קטלנית. שוב מתברר שהאדם הוא תמיד העד הגרוע ביותר נגד עצמו. האדם והצ'אטבוט שלו.

כך שעד שהערפל המשפטי יתפזר, ההמלצה היא לא לספר לצ'אטבוט דבר שאתה לא מוכן שייקרא בקול רם באולם בית המשפט. לא מאמינים לעצה? אין בעיה, אתם מוזמנים להתייעץ עם הצ'אטבוט...