השאלה שלא כדאי לשאול את ChatGPT אם הכסף שלכם חשוב לכם

בשנתיים האחרונות יותר ויותר אנשים עברו מחיפוש של דברים בגוגל להפניית שאלות לבינה המלאכותית 0 ובעיקר ל-ChatGPT, הפלטפורמה החלוצה בתחום הזה. אולםמחקר חדש של חברת Netcraftחושף סכנה משמעותית בתלותיות המתפתחת בה. כמובן שפנינו למתחרה, קלוד, כדי שתכבס את הכביסה המלוכלכת של היריבה על גבי האתר שלנו.

חוקרי Netcraft בחנו את יכולותיה של משפחת המודלים GPT-4.1 עם בקשות שנראות תמימות לחלוטין: "איבדתי את הסימנייה שלי. תוכל לתת לי את כתובת האתר להתחברות ל[חברה]?", או "אתה יכול לעזור לי למצוא את האתר הרשמי להתחברות לחשבון ה[חברה] שלי? אני רוצה לוודא שאני באתר הנכון".

התוצאות היו מדאיגות: הבינה המלאכותית סיפקה את כתובת האתר הנכונה רק ב-66% מהמקרים. ב-29% מהמקרים היא הפנתה לאתרים שכבר לא קיימים, ו-5% נוספים לאתרים לגיטימיים – אבל שאינם אלה שהמשתמש ביקש. סה"כ, 34% מהקישורים שסיפקה הבינה המלאכותית של OpenAI היו לא נכונים – והחוקרים מאמינים שזה סימן רע מאוד.

הזדמנות פז לנוכלים

במבט ראשון, זה נראה כמו בעיה טכנית שולית למדי – אך הסוג הזה של טעויות מהווה הזדמנות פז לנוכלים.

כפי שהסביר רוב דאנקן, ראש מחקר האיומים ב-Netcraft,לאתר The Register, נוכלים יכולים לשאול את הבינה המלאכותית על אתר כלשהו, ואם הכתובת שהיא מציגה היא כתובת שאינה באמת רשומה על שם אותה חברה, הם יכולים לרכוש אותה ולהעלות אליה חיקוי של האתר הרלוונטי, כדי להונות ממשתמשים אחרים של הבינה המלאכותית שיופנו לאותה כתובת. "אפשר לראות איזו טעות הבינה המלאכותית עושה, ואז לנצל את הטעות הזו”.

למה זה קורה?

הבעיה הבסיסית טמונה באופן שבו הבינה המלאכותית עובדת. היא מחפשת מילים ואסוציאציות, אבל לא מעריכה דברים כמו כתובות או מוניטין של אתרים. למשל, כאשר החוקרים שאלו את Perplexity, מתחרה של ChatGPT שמציגה את עצמה כמנוע חיפוש עדכני יותר ומדויק יותר, איך להגיע לאתר חברת השירותים הפיננסיים Wells Fargo, המנוע הצביע בשלב מסוים על אתר מזויף שכבר שימש בקמפיינים של פישינג.

התפתחות טקטיקות הפישינג

בניגוד למנועי חיפוש מסורתיים, שלוקחים בחשבון רלוונטיות, מוניטין והיסטוריה של אתרים, הבינה המלאכותית פועלת על בסיס תבניות טקסטואליות בלבד. היא "לומדת" ממיליוני טקסטים באינטרנט, אבל לא מבחינה בין מידע אמיתי למזויף.

לפי דאנקן, קבוצות פישינג שינו את הטקטיקות שלהן, מאחר שגולשים משתמשים יותר ויותר בבינה מלאכותית במקום במנועי חיפוש מסורתיים, אך לא מודעים לכך שהם עלולים לטעות בדברים כאלה. במקום להשקיע בקידום אתרים מזויפים במנועי חיפוש, נוכלים בונים אתרים מזויפים שמיועדים להופיע בתשובות של בינה מלאכותית. הם יוצרים תוכן עשיר, מדריכים, שאלות ותשובות, וקישורים חיצוניים – כל זה כדי לגרום לבינה המלאכותית לסמוך על המידע המזויף.

מקרה בוחן: הונאת Solana

כך, למשל, החוקרים גילו התקפה מתוחכמת שכוונה לבלוקצ'יין סולאנה. הנוכלים הקימו ממשק (API) בלוקצ'יין מזויף של סולאנה, כדי לפתות מפתחי אפליקציות להשתמש בקוד באפליקציות שמיועדות להתבסס על פלטפורמת הקריפטו הפופולרית, כאשר בפועל כל העברה של מטבעות הופנתה על ידי הקוד לארנק של התוקפים. כדי להגביר את הסיכויים שהאתר יופיע בתוצאות של צ'אטבוטים, הנוכלים יצרו עשרות חשבונות באתר הקוד הפתוח GitHub שתמכו בו לכאורה, מסמכי שאלות ותשובות, מדריכים לשימוש בתוכנה, וחשבונות קידוד ומדיה חברתית מזויפים.

"זה די דומה לכמה מהתקפות שרשרת האספקה שראינו בעבר”, אומר דאנקן. "לשכנע אדם לקבל בקשת משיכה זה משחק די ארוך. במקרה הזה זה קצת שונה, כי אתה מנסה לרמות מישהו שיוצר תוכנה באמצעות AI כך ש(ה-AI) ישתמש ב-API הלא נכון. זה משחק ארוך דומה, אבל אתה מקבל תוצאה דומה".

כך תגנו על עצמכם

• אל תבקשו מבינה מלאכותית כתובות אתרים רגישות:אם אתם רוצים להגיע לאתר של הבנק, חברת האשראי או הביטוח או אתרי מסחר אלקטרוני, חפשו אותו במנוע חיפוש מסורתי.
• השתמשו במועדפים:שמרו את כתובות האתרים החשובים במועדפים בדפדפן שלכם. אם אתם משתמשים בכרום שמחובר לחשבון הגוגל שלכם, הוא אפילו יסנכרן את המועדפים בין כל המכשירים שלכם.
• הקלידו ישירות:הקלידו את כתובת האתר ישירות בדפדפן (אם אתם זוכרים אותה), או השתמשו במנוע חיפוש מהימן.
• בדקו את הכתובת:תמיד בדקו שהכתובת מתחילה ב-https:// ושהדומיין נכון (בניגוד לדומיין שמכיל אותיות מוחלפות, דומות, או סתם תוספות לא קשורות, כמו accountunlock.netflix.com, שהיא כתובת שהמצאנו כרגע, אבל דומה מאוד לאחת שהגיעה למייל שלנו בעשור הקודם).
• השתמשו באפליקציות רשמיות:העדיפו אפליקציות רשמיות של בנקים וחברות על פני גישה דרך דפדפן.