הדוח שמתריע על סכנות הבינה המלאכותית - מלא בשקרים שהמציא AI

פירמת רואי החשבונאות והייעוץ הבינלאומית KPMG, אחת מארבע הגדולות בעולם, נקלעה למבוכה קשה.דוח שפרסמה החברה באוקטובר אשתקד תחת הכותרת "Total Experience: Redefining Excellence in the Age of Agentic AI", אשר עסק בדרכים שבהן חברות משתמשות בבינה מלאכותית כדי לספק את צורכי לקוחותיהן, נמצא מלא לחלוטין ב"הזיות AI", דוגמאות פיקטיביות והערות שוליים מזויפות.

הממצאים המביכים נחשפו על ידי חוקרים מחברת GPTZero, המפתחת כלים לזיהוי תוכן AI, ואומתו באופן עצמאי על ידי עיתון "הפיננשל טיימס".

על פי ממצאי החקירה של GPTZero, הדוח הציג רמת אמינות אפסית בכל הנוגע למקורותיו וביסוס הטענות שבו. מתוך 45 ציטוטים והערות שוליים בדוח, רק חמש הפנו למקורות אמיתיים ומדויקים. כ-28 ציטוטים עשו פרפראזה על כותרות או הוסיפו אלמנטים מזויפים למקורות קיימים במציאות.

בנוסף, כ-12 ציטוטים נכתבו בצורה מעורפלת מדי, עד שלא ניתן היה לקבוע האם המקורות הללו קיימים בכלל.

בחברת GPTZero כינו את התופעה של יצירת מקורות פיקטיביים על ידי מודלי AI בשם "Vibe Citing" ("ציטוט לפי תחושה"). נמצא גם כי כחצי מהטענות בדוח היו מזויפות או שויכו לחברות הלא נכונות. החוקרים ציינו כי הדבר הוא "ככל הנראה תוצאה של כלי מחקר מבוסס AI ש'התאמץ מדי' למלא את הבקשה למצוא דוגמאות לבינה מלאכותית סוכנותית בשטח".

הדוח של KPMG הציג שורה של סיפורי הצלחה טכנולוגיים של חברות ענק, אשר התבררו כהזיה מוחלטת של המודל. הדוח טוען כי חברת "אמירטס" השיקה צ'אטבוט נייד בשם "סארה" המסוגל לשוחח עם נוסעים ולשנות עבורם את פרטי הטיסה. בפועל, סארה היא עוזרת דיגיטלית רגילה שהושקה ב-2023, היא אינה מבוססת על צ'אטבוט AI ואין לה שום יכולת לשנות הזמנות עבור נוסעים.

גם בנק ההשקעות UBS חטף. הדוח טען כי ענק הבנקאות השווייצרי שילב בינה מלאכותית סוכנותית במערכי ייעוץ ההשקעות, ניהול הסיכונים וניטור הציות שלו. מהבנק נמסר לפיננשל טיימס כי המידע הזה "אינו נכון עובדתית".

בדוח נכתב כי לחברת הרכבות הפדרלית השווייצרית יש סוכני AI המסייעים לנוסעים לתכנן, להזמין ולבצע אופטימיזציה של נסיעות בהתבסס על העדפות אישיות ותנאים בזמן אמת. דובר חברת הרכבות הבהיר מיד כי הטענה "אינה מדויקת".

ניירות עמדה ודוחות שמפורסמים על ידי פירמות ה-Big Four נחשבים בשוק למקורות מידע אמינים ובעלי סמכות גבוהה, המצוטטים לעיתים קרובות במחקרים אקדמיים ובכתבות עיתונאיות.

מנכ"ל GPTZero, אדוארד טיאן, הסביר כי פרסום דוחות רצופי שגיאות מצד פירמות ענק כאלה עלול "להרעיל את באר המידע". הדבר עלול להוביל לגל שני של "הזיות יד שנייה", כאשר חוקרים ועיתונאים יסתמכו על המידע המומצא של KPMG ויפיצו אותו הלאה כעובדה מוגמרת.

בתגובה לממצאים, מסר דובר מטעם KPMG ל"פיננשל טיימס" כי החברה "לוקחת ברצינות רבה את הדיוק והיושרה של התוכן המפורסם על ידה". בעקבות החשיפה, KPMG הסירה לחלוטין את הדוח המדובר מאתרה הרשמי והיא בוחנת כעת את הנסיבות סביב פרסומו.