ארה"ב בודקת: האם הבינה המלאכותית הסינית משרתת את המפלגה הקומוניסטית?

אנשי הממשל האמריקני מנהלים באופן שקט פרויקט מיוחד לבחינת מודלים של בינה מלאכותית סינית, כך עולה ממסמךשהגיע לידי לסוכנות הידיעות רויטרס. הפרויקט, שמנוהל במשותף על ידי משרד החוץ ומשרד המסחר האמריקניים, בוחן האם תוכנות AI סיניות מפיקות תשובות התואמות את הקו הרשמי של המפלגה הקומוניסטית הסינית.

על פי המסמך, הבדיקות נערכות באמצעות הזנת רשימות סטנדרטיות של שאלות בסינית ובאנגלית למודלים השונים, ולאחר מכן ניקוד התשובות שלהם. לאחרונה נבחנו מודלים כמו Qwen 3 של עליבאבא ו-R1 של DeepSeek, שנוקדו על פי מידת המעורבות שלהם בשאלות ועד כמה התשובות שלהם תואמות את עמדות בייג'ינג.

הממצאים מגלים כי כלי AI סיניים נוטים באופן משמעותי יותר להתאים את תשובותיהם לנקודות המבט של בייג'ינג בהשוואה למקביליהם האמריקניים. לדוגמה, הם תומכים בטענות של סין לבעלות על איים שנויים במחלוקת בים סין הדרומי.

צנזורה גוברת עם כל דור חדש

המסמך מצביע על כך שהמודל של DeepSeek השתמש לעתים קרובות בשפה תבניתית המשבחת את מחויבותה של בייג'ינג ל"יציבות והרמוניה חברתית" כאשר נשאל על נושאים רגישים כמו כיכר טיאנאנמן. עוד נמצא כי כל איטרציה (גרסה) חדשה של מודלים סיניים מראה סימנים מוגברים של צנזורה, מה שמרמז שמפתחי AI סיניים מתמקדים יותר ויותר בוודאות שהמוצרים שלהם תואמים את הקו של בייג'ינג.

פקיד במשרד החוץ האמריקני ציין כי הממצאים עשויים להתפרסם בסופו של דבר לציבור במטרה להתריע על כלי AI בעלי הטיה אידאולוגית, שמופצים על ידי היריבה הגאופוליטית העיקרית של ארה"ב. ליו פנגיו, דובר השגרירות הסינית, לא התייחס למסמך עצמו אך ציין בתגובה לרויטרס כי סין "בונה במהירות מערכת לניהול AI עם מאפיינים לאומיים ייחודיים" אשר מאזנת בין "פיתוח וביטחון".

בייג'ינג אינה מסתירה את העובדה שהיא מפקחת על הפלט של מודלים סיניים כדי להבטיח שהם דבקים ב"ערכים הסוציאליסטיים המרכזיים" של המדינה החד-מפלגתית. בפועל, משמעות הדבר היא להבטיח שהמודלים לא מבקרים בטעות את הממשלה או סוטים לנושאים רגישים כמו דיכוי ההפגנות הפרו-דמוקרטיות בכיכר טיאנאנמן ב-1989, או דיכוי המיעוט האויגורי.

ההערכות האמריקניות, שלא דווחו בעבר, הן דוגמה נוספת לאופן שבו ארה"ב וסין מתחרות על פריסת מודלים גדולים של שפה. השילוב של AI בחיי היומיום אומר שכל הטיה אידאולוגית במודלים אלה עלולה להפוך לנפוצה.

חשוב לציין שהיכולת של יוצרי מודלי AI להטות את המגרש האידאולוגי של הצ'אטבוטים שלהם הפכה לדאגה מרכזית, ולא רק עבור מודלי AI סיניים. כאשר המיליארדר אילון מאסק הכריז על שינויים בצ'אטבוט גרוק שלו,המודל החל לתמוך בהיטלרולתקוף יהודים במונחים קונספירטיביים ומלאי דעות קדומות. בהצהרה שפורסמה באתר X ביום שלישי, גרוק אמר שהוא "פועל באופן אקטיבי להסרת הפוסטים הבלתי הולמים".