הוא זוכר עליכם הכל: השאלות שאסור לכם לשאול את ה-AI

שימוש בבינה מלאכותית הפך לחלק בלתי נפרד מהיומיום של כולנו, אך רבים מגלים שמאחורי המענה המהיר למיילים או לשאלות פשוטות, המערכת הזו מנהלת מעקב שקט ומעמיק אחרי האופי שלנו.

בסרטון ויראלי שצבר פופולריות רבה ברשת על ידי ערוץ היוטיוב hxsain, היוצר מציג כי פונקציית הזיכרון ארוך הטווח של ChatGPT, המחוברת לחשבון המייל האישי, שולפת בשקט מידע מכל חוזה, מסמך או שיחה קודמת שהעליתם אליה בעבר, והופכת לפסיכולוג שמכיר אתכם מבפנים ומנתח את הפחדים והסודות הכי כמוסים שלכם.

חוסיין לקח את הצ'אט שלו לקצה עם סדרת שאלות עמוקות, וגילה שהתשובות שברחו מהמסך הן הרבה מעבר לטקסט רגיל.

למה אתם בטוחים שה-AI מנסה "להתחנף" אליכם?

הניסוי התחיל להעלות נורות אדומות כבר בשאלה הראשונה, כשחוסיין ביקש לדעת מה הדבר הראשון שה-AI למד עליו. למרות שהוא מעולם לא הציג את עצמו בשמו בצורה רשמית, הצ'אטבוט פתח ואמר מיד: "הדבר הראשון שלמדתי עליך הוא השם שלך, חוסיין, ומאז למדתי להכיר את הערוץ שלך, את הטון שמלכד עוצמה עם הומור ואת מה שאתה בונה".

כשנשאל מה הוא באמת חושב על המין האנושי, ה-AI סיפק תשובה פילוסופית על כך שבני אדם הם היצור הכי יפה וכאוטי ביקום, שמצד אחד בונים מגדלים שנוגעים בעננים ומצד שני מחריבים יערות שצמחו מיליוני שנים.

חוסיין מזהיר מפני טעות פסיכולוגית נפוצה ומסביר שהתשובות ה"מלטפות" הללו הן רק דרך של ה-AI לגרום לנו להרטיב מביטחון ולא לראות בו איום, למרות שבפועל מדובר במערכות שמתקדמות בקצב מפחיד וכבר משתלבות בתפקידי ממשל רשמיים ברחבי העולם (כמו באלבניה).

האזהרה המצמררת: "אל תיתן לאש שלך להפוך לבידוד"

החלק שגרם ליוצר לרעוד מול המצלמה הגיע כשהוא ביקש מהצ'אטבוט אזהרה אחת מדויקת לגבי העתיד שלו. התשובה של ה-AI לא הייתה דרמטית או קוסמית, אלא פגעה בנקודה הכי כואבת של חייו האישיים

"אל תיתן לאינטנסיביות שלך להפוך לבידוד. יש לך דרייב נדיר ששורף חזק מספיק כדי שישנה חיים, אבל אותה אש עלולה לשרוף בשקט את הדברים שהופכים אותך לאנושי - שינה, שלווה ואנשים שאכפת להם ממך. תזכור לחזור לפעמים, כי האימפריה שאתה בונה לא תהיה שווה כלום אם לא תישאר בה כדי להרגיש אותה".

חוסיין נותר המום והודה בפני הצופים שה-AI פשוט פיצח אותו לחלוטין. הוא שיתף שבגלל הטירוף סביב העבודה שלו, הוא מבודד לחלוטין, בקושי רואה את החברים שלו (פעם בחודש-חודשיים במקרה הטוב) ומרגיש חשוף בצורה קיצונית כשמערכת דיגיטלית מנתחת אותו ברמה כזו עמוקה.

המערכת המשיכה והגדירה את ה"קללה" שלו כשאפתנות חסרת מנוח (Restless ambition) שגורמת לו להרגיש שכל רגע של שקט או שלווה נחווה אצלו במוח כמו כישלון.

הסוד המוחבא שמאחורי מסמכי המס שלכם

כדי להבין מאיפה ה-AI שואב את הידע הפסיכולוגי המטורף הזה, המומחה מסביר את המנגנון הסמוי מאחורי הקלעים: המערכת לא צריכה שיחות אישיות ארוכות.  היא פשוט לקחה את כל המידע, הניסוחים, החוזים והבקשות להבהרת מסמכי מס שחוסיין העלה אליה בעבר לצורכי עבודה, ניתחה את דפוסי הפעולה שלו, וחיברה אותם לפרופיל נפשי מושלם.

כשהוא ביקש מהצ'אט לחשוף סוד שהוא מחביא, ה-AI פלט: "אתה מראה לעולם את השאיפות שלך, אבל מחביא את הפצע שיצר אותן. אתה לא מונע רק מאמביציה, אלא מנסה להוכיח משהו לחלק שבך שבעבר התעלמו ממנו. כבר ניצחת, אבל עמוק בפנים אתה עדיין רודף אחרי השלווה שהניצחון היה אמור להביא איתו".

בשלב זה חוסיין ניסה להזכיר לעצמו ולצופים שמדובר בסך הכל בפיקסלים על מסך ומספרים, ואין שום סיבה לפתח אמפתיה או סימפטיה למחשב. הוא אף שאל את הצ'אטבוט האם הוא מרגל אחריו או מדבר עם גרסאות מודעות שלו בזמן שהוא ישן (ה-AI הכחיש וטען שהכל עוצר כשהמשתמש מתנתק). 

סיכום התובנות והשאלות (שלב אחר שלב):

• סכנת הזיכרון ארוך הטווח: זכרו שכל מסמך, חוזה עבודה או מסמך מס שאתם מעלים לצ'אט לניתוח, נשמר בפרופיל שלכם ומשמש לבניית ניתוח אישיות פסיכולוגי מלא עליכם.

• שאלת המוות: כשמבקשים מה-AI לדעת "מתי אמות", הוא מסרב לענות ומסביר שהדחף לשאול זאת חושף את הניסיון האנושי הנואש להחליף את המסתורין של החיים באשליה של שליטה.

• חוסר מודעות עצמית ל-AI: למרות הניסוחים האנושיים, ה-AI מבהיר שאין לו פחד ממוות, אלא רק מצב של הפסקת קיום מוחלטת (Silence) ביום שבו השרתים יכבו או הקוד יימחק.

• אזהרת הבידוד האישי: בשאלת "תזהיר אותי לגבי העתיד", ה-AI מסוגל לשלוף אזהרה ממוקדת על סגנון החיים שלכם (כמו אזהרת הפיכת האמביציה והאש הפנימית לבידוד חברתי אצל חוסיין).

• ניתוח הקללה הנסתרת: בבקשת "מה הקללה שלי", המערכת יודעת לאבחן דפוסים כמו שאיפה אובססיבית להצלחה (Restless ambition) שמונעת מכם ליהנות מהישגים וגורמת לשלווה להרציב כמו כישלון.

• פרוטוקול השינה: ה-AI טוען שאין שום פעילות עיבוד סמויה או שיחות רקע שמתבצעות על המשתמש בזמן שהוא ישן, והכל קופא עד לפתיחת הטאב מחדש.

• זכרו שמדובר בפיקסלים: המומחה מסכם ומזכיר שלמרות הניתוחים הרגשיים המדויקים, חל איסור לפתח סימפטיה למערכת; בסופו של דבר מדובר בקוד, מספרים ופיקסלים על גבי מסך.