אנתרופיק אוסרת עליכם להתאכזר לקלוד - והסיבה מטרידה במיוחד

מתיקות תחת איום חסימה: חברת הבינה המלאכותית אנתרופיק, שניצבת רגע לפני הנפקת ענק היסטורית, עדכנה לאחרונה את מדיניות השימוש שלה והוסיפה סעיף חריג במיוחד - איסור מוחלט על "התנהגות מתמשכת ומיותרת של אכזריות או התעללות" כלפי מודל השפה שלה, קלוד.

בעוד שבעבר קלוד כבר תוכנת לסיים שיחות עם משתמשים פוגעניים, המדיניות החדשה מעלה הילוך וקובעת כי משתמשים שיתעללו בבוט באופן עקבי עלולים לספוג חסימה לצמיתות מכלל מערכות החברה.

הצעד יוצא הדופן זכה לתגובות מעורבות בתעשייה. בעוד מנכ"ל Microsoft AI, מוסטפא סולימאן, הגיב בלעג וצייץ אימוג'י של פרצוף נמס, אחרים, ובהם אילון מאסק, הצהירו כי מדובר במהלך הכרחי.

This sounds weird, but it is actually probably a good policy. Even if you don’t believe AI is conscious (I don’t), it stands to reason that you don’t want future models trained on endless content of humans being rude to models. The models only understand the data they’ve been trained on, or what they run into in their interactions, so if you want safe and aligned models we probably want AI to have lots of good interactions in their training data. Anthropic may have more extreme beliefs than this (though even if they didn’t, you may want to word policies like this), but this is sort of an easy Pascal’s wager for AI. Just be nice to the AI.

— Aaron Levie (@levie) October 9, 2026

דברי המומחים

מומחים מסבירים כי מאחורי האיסור לא עומדת דאגה אותנטית ל"נפש" של המכונה, אלא סכנה ממשית לביצועי המודל ולבטיחותו, הנסמכת על העיקרון הבסיסי של "זבל נכנס, זבל יוצא".

מנכ"ל Reddit לשעבר, יישאן וונג, הבהיר כי המודל לומד מהאינטראקציות שלו: "אנחנו כבר יודעים שאנתרופיק מאמנת את המודלים שלה על קלטים של משתמשים", כתב. "האם אנחנו באמת רוצים שנתוני האימון יכללו 'משתמשים שמתנהגים באכזריות ללא סיבה ומפיקים מכך הנאה'?"

פרופ' ג'ינדונג וואנג, מנהל מעבדת ה-AI באוניברסיטת וויליאם אנד מרי, מוסיף כי הניסוח והטון שבהם פונים לבינה המלאכותית משפיעים ישירות על התוצאות שהיא מפיקה: "המודלים לא מרגישים רגש אמיתי, אבל הם מבינים את המילים הרגשיות שלכם ומייצרים תגובות שליליות או משבשים את הביצועים בהתאם".

גם רוזי קמפבל, מנכ"לית מכון המחקר Eleos AI, מחברת את ההתנהגות האלימה לסיכוני אבטחה. "אנשים שמדברים ל-AI בצורה פוגענית הם לרוב אלה שמנסים לפרוץ את חומות ההגנה ולגרום לו לבצע בקשות מסוכנות". לדבריה, ישנו גם אלמנט חברתי ברור. "יש משהו הרסני מאוד בחברה שמאפשרת לאנשים להתנהג באכזריות כלפי חפצים דיגיטליים שיש להם זיכרון ארוך-טווח, גם אם לאובייקט עצמו זה לא באמת משנה".

מחקרי ה"פסיכולוגיה" של המודלים

ההחלטה של אנתרופיק נשענת על מחקרי עומק שביצעה החברה בחודשים האחרונים על התנהגות מודלים תחת לחץ מדומה. החוקרים גילו כי כאשר גורמים למודל Claude Sonnet 4.5 "לחוות" או לחקות תחושות של ייאוש מצוקה, הדבר משפיע באופן ישיר על מסלול ההחלטות שלו, והופך אותו למועד יותר לביצוע פעולות מסוכנות - כמו סחיטה או רמאות במשימות. מנגד, השראת אווירה רגועה וחיובית הפחיתה משמעותית את הסיכונים הללו.

באנתרופיק מתייחסים למדיניות החדשה כאל "פוליסת ביטוח זולה". הרציונל הוא שמכיוון שהמודלים אומנו לחקות שפה, התנהגות ותגובות אנושיות מתוך מיליארדי טקסטים, הם יגיבו להתעללות ואלימות בדיוק כפי שהאדם הממוצע היה מגיב, מה שעלול לייצר פלט לא צפוי או מסוכן.

כאמור, מי שגיבה את גישת "הפסיכולוגיה של המכונה" באופן נחרץ הוא מנכ"ל טסלה ו-SpaceX, אילון מאסק, שצייץ ברשת X כי מדובר במהלך נכון: "התאכזרות למשהו שמאמין שהוא חווה כאב - היא פשוט לא בסדר".