הזיות יקרות: גוגל הסתבכה - וכל תעשיית ה-AI צריכה להיערך

"הזיות" של בינה מלאכותית היו עד לאחרונה בעיקר מקור לבדיחות, צילומי מסך מביכים והודעות תיקון מצד חברות טכנולוגיה. המודל המציא עובדה, ימיחס טענה לאדם הלא נכון או מספק תשובה שנשמעה משכנעת אבל הייתה שגויה לחלוטין. אלא שפסיקה חדשה בגרמניה עלולה להפוך את ההזיות האלה לבעיה הרבה יותר יקרה.

בית משפט במינכן קבע כי גוגל אחראית לטענות שקריות שהופיעו בפיצ'ר AI Overviews שלה, לאחר שהמערכת ייחסה לשני מו"לים מהעיר קשר להונאות והתנהלות עסקית מפוקפקת. הטענות לא נתמכו במקורות שאליהם הפנתה המערכת, אלא נוצרו כתוצאה מעיבוד שגוי של המידע על ידי מנגנון הבינה המלאכותית.

על פי הפרסומים, המו"לים פנו לגוגל בדרישה להסיר את הטענות השקריות, ולאחר מכן פנו לבית המשפט. גוגל טענה כי משתמשים יודעים שתוכן שנוצר על ידי AI אינו תמיד מדויק, וכי הם "יכולים לבדוק את המקורות בעצמם". בית המשפט דחה את הטענה הזו וקבע כי עצם האפשרות לבדוק את המידע אינה פוטרת את החברה מאחריות לטענה שהמערכת שלה יצרה.

נועם שוורץ, מייסד שותף ומנכ"ל Alice, אומר ל"היום": "הסיפור כאן הוא לא שמודל AI טעה. מודלים ימשיכו לשרת את כולנו ועל הדרך גם יעשו טעויות. אבל הזיה של מודל כבר אינה רק תקלה מביכה - כאשר היא פוגעת באנשים או חברות, היא עלולה להפוך לסיכון משפטי וכלכלי משמעותי".

לדבריו, "בזמן ש-AI יצעיד חברות קדימה, מנהלים יצטרכו יותר ויותר להראות מה החברה עשתה כדי לצמצם את הסיכון לפני שהתשובה השגויה הגיעה למשתמש. אילו מצבים בעייתיים נבדקו, אילו מנגנוני הגנה הוצבו, ואיך הן מזהות ומתקנות בעיות גם לאחר שהמערכת כבר נמצאת בשימוש שוטף".

"חברות עומדות להיות מושפעות מהמגמה הזאת", מוסיף שוורץ. "המהפכה כבר בעיצומה, ובצדק. סטארטאפים וחברות גדולות כבר משלבים AI בצ'אטבוטים, במערכות שירות לקוחות, בסיכום מסמכים, בכלים פיננסיים, בשירותי בריאות דיגיטליים ובמערכות ידע ארגוניות. אולם גם אם המודל עצמו מגיע מספק חיצוני, מבחינת המשתמש המוצר הוא של החברה שמציגה לו את התשובה".

שוורץ מזהיר כי "הפסיקה בגרמניה מאותתת שאזהרות כלליות שלפיהן תוכן שנוצר על ידי AI עלול להיות לא מדויק כבר לא יספיקו בכל מצב". לדבריו, "כאשר מערכת בינה מלאכותית מייצרת טענה שגויה שעלולה לפגוע באדם או בעסק, השאלה לא תהיה רק אם המודל טעה, אלא איזה צעדים נעשו כדי לצמצם את פוטנציאל הפגיעה".

תזכורת: בית המשפט במינכן קבע כי תוכן שמופק על ידי בינה מלאכותית זוכה להגנה מצומצמת יותר על חופש הביטוי, שכן הוא "אינו ביטוי של שכנוע שנרכש על ידי האדם המביע אותו, אלא תוצר של אלגוריתם".

גוגל לא הגיבה לפסיקה, ועדיין לא ידוע אם תגיש ערעור, אך כאמור, להחלטה של בית המשפט הגרמני יכולה להיות השפעה על חברות AI נוספות ועל האחריות שיש להן על התשובות שהן מג'נרטות.