דמיינו שאתם מסיימים לכתוב מאמר מדעי ושולחים אותו לבדיקה אצל קרל סייגן, או מבקשים מסטיבן קינג לעבור על הסיפור הקצר שלכם. נשמע כמו חלום? עבור Grammarly מדובר במציאות טכנולוגית חדשה, אך עבור הסופרים והחוקרים עצמם - חיים ומתים כאחד - מדובר בסיוט של זכויות יוצרים.
לפי דיווח במגזין WIRED, פלטפורמת עריכת הטקסט השיקה פיצר חדש בשם "Expert Review", שמאפשר למשתמשים לקבל הערות והמלצות לכתיבה בהשראת סופרים, מדענים ואקדמאים מפורסמים - כולל כאלה, כאמור, שמעולם לא נתנו לכך אישור, ואף כאלה שכבר הלכו לעולמם.
הכלי החדש הוא חלק מהתרחבות משמעותית של שירותי הבינה המלאכותית של החברה. בשנים האחרונות הפכה Grammarly מכלי לבדיקת דקדוק ואיות לפלטפורמה רחבה שמציעה מגוון יכולות מבוססות AI לכתיבה, עריכה ושכתוב.
כך עובד פיצ'ר "ביקורת המומחים"
הפיצ'ר מאפשר למשתמש לבחור "מומחה" וירטואלי שיבחן את הטקסט ויציע הערות לשיפור. בין הדמויות שהמערכת מציגה ניתן למצוא סופרים וחוקרים ידועים, בהם הסופר סטיבן קינג, האסטרופיזיקאי ניל דה-גראס טייסון ואפילו דמויות שכבר אינן בחיים, כמו האסטרונום קרל סייגן והעורך וויליאם זינסר.
ב-Grammarly ממהרים להבהיר באותיות הקטנות כי המומחים לא באמת כתבו את ההערות; מדובר במודל שפה גדול המפיק תובנות "בהשראת עבודותיהם". לטענת החברה, המערכת מנתחת את הקשר הטקסט (למשל, מסמך שיווקי או אקדמי) ומזקקת רעיונות המבוססים על סגנונם של אותם מומחים רלוונטיים.
לדברי ג'ן דייקין, מנהלת תקשורת בחברה שמפעילה את Grammarly, המערכת מנתחת את סוג הטקסט - למשל עבודה אקדמית או מסמך שיווקי - ואז משתמשת במודל AI כדי להציג רעיונות ותובנות המבוססים על מקורות שנכתבו על ידי מומחים רלוונטיים.
ביקורת חריפה מצד אקדמאים
למרות ההסבר הרשמי, הפיצ'ר החדש מעורר ביקורת חריפה בקרב חוקרים ואנשי אקדמיה. חלקם טוענים כי מדובר בשימוש בעייתי בעבודותיהם של חוקרים וסופרים, לעיתים ללא הסכמה מפורשת.
ונסה הגי, מרצה להיסטוריה של המדע והרפואה באוניברסיטת ברמינגהאם, פרסמה ברשת לינקדאין דוגמה לפעולת הכלי וטענה כי החברה למעשה יוצרת "מודלי שפה קטנים" שמבוססים על עבודות שנאספו מהרשת, תוך שימוש בשמות ובמוניטין של חוקרים - חיים ומתים. הגי הצביעה במיוחד על הופעתו של מודל AI המבוסס על ההיסטוריון דייוויד אבולפיה, שנפטר בינואר האחרון. לדבריה, עצם הצגת האפשרות לקבל "ניתוח" ממנו היא בעייתית מבחינה מוסרית.
גם היסטוריונים אחרים הצטרפו לביקורת. לדברי החוקר סי. אי. אובין מאוניברסיטת ייל, הצגת ההמלצות כ"ביקורת מומחים" מטעה את המשתמשים, שכן בפועל אין מומחים אמיתיים שמעורבים בתהליך. לדבריו, הדבר מחזק את חוסר האמון הקיים של רבים באקדמיה כלפי שימושים בבינה מלאכותית.
שאלות משפטיות ואתיות
מעבר לביקורת האקדמית, הפיצ'ר מעלה גם שאלות משפטיות רחבות יותר. מערכות AI רבות מאומנות על טקסטים שנאספו מהרשת, ולעיתים קרובות לא ברור האם נעשה שימוש בחומרים מוגנים בזכויות יוצרים. נושא זה כבר עומד במרכזן של תביעות רבות נגד חברות טכנולוגיה בתחום הבינה המלאכותית. חלק מהתביעות טוענות כי מודלים מבוססים על יצירות של סופרים, עיתונאים וחוקרים מבלי שקיבלו לכך אישור.
הפיצ'ר החדש הוא חלק ממערכת רחבה של כלים מבוססי AI שהתווספו לפלטפורמה. בין היתר מציעה Grammarly צ'אטבוט שמסייע במהלך כתיבה, כלי לשכתוב בסגנונות שונים, מערכת שמנסה "להאניש" טקסטים שנוצרו על ידי AI, ואפילו כלי שמעריך כיצד עבודה אקדמית עשויה לקבל ציון.
לדברי המבקרים, שילוב של "ביקורת מומחים" וירטואלית במערכת כזו עלול גם ליצור רושם מטעה בקרב סטודנטים, שעלולים לחשוב כי הם מקבלים הערכה אמיתית ממומחים - למרות שמדובר למעשה באלגוריתם בלבד.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו