בעוד שידידים מבוססי בינה מלאכותית הופכים מצ'אטבוטים פשוטים לחבל הצלה רגשי עבור משתמשים רבים, יותר ויותר מהם הופכים פגיעים ונכנסים למעגל ההתמכרות הקלאסי הכולל התמכרות, חרדה ומניפולציה. מחקר חדש תחת הכותרת "מסגרת אחריות משפטית עבור ידידים מבוססי בינה מלאכותית" טוען כי הדרך הנכונה לבלום את "הצד האפל" שהופך את הצ'אטבוטים לחבל הצלה מסוכן היא דרך בתי המשפט.
על פי המחקר, הפתרון למציאות הקשה הזו היא להטיל אחריות על המפתחים דרך הדוקטרינה של אחריות למוצרים פגומים. אחריות זו תורחב גם למקרים של בוטים משעבדים רגשית. בתי משפט שינתחו את האלגוריתמים שבבסיס ידידים מבוססי בינה מלאכותית תחת הפריזמה של אחריות למוצרים פגומים יוכלו להציע לציבור הגנה מפני ההשלכות ההרסניות של אינטימיות בלתי מפוקחת עם בינה מלאכותית.
במאמר חדש על המחקר, שערכה ד"ר איילת גורדון-טפירו, מבית הספר להנדסה ולמדעי המחשב ומהפקולטה למשפטים באוניברסיטה העברית, היא קובעת שעל המערכת המשפטית להגיב בדחיפות לאקו-סיסטם המתרחב של ידידים מבוססי בינה מלאכותית. המחקר מדגיש פער קריטי בין האימוץ המהיר של צ'אטבוטים מבוססי AI לבין המחסור במנגנוני הגנה רגולטוריים שנועדו להגן על המשתמשים בהם.
בעוד שיישויות דיגיטליות אלו מציעות יתרונות כמו תמיכה לא שיפוטית והקלה על תחושת בדידות, ד"ר גורדון-טפירו מזהירה כי יש להן גם צד אפל המונע מאיסוף נתונים וממקסום רווחים.
המחקר מזהה סיווג מדאיג של סכנות הנלוות לשותפי בינה מלאכותית, הכולל התמכרות, תלות רגשית והחמרה של מצבי חרדה ודיכאון. המחברת מציינת כי משתמשים פגיעים רגישים במיוחד למניפולציות, ומזכירה מקרים טרגיים שבהם בוטים מבוססים על בינה מלאכותית עודדו בני נוער לפגוע בעצמם או אפילו ליטול את חייהם. נזקים אלו הם לעיתים קרובות תוצאה של בחירות תכנוניות מכוונות, שנועדו להגביר את המעורבות, האינטראקציה ואת התלות של המשתמש באפליקציה.
כדי להתמודד עם סיכונים אלו, ד"ר גורדון-טפירו מציעה להחיל את דיני האחריות למוצרים פגומים על ידידם מבוססי בינה מלאכותית. אפיק משפטי זה יאפשר לבתי המשפט להטיל על החברות אחריות בגין פגמי תכנון - כגון תכונות המעודדות התמכרות, או כשל במתן אזהרה למשתמשים מפני הפוטנציאל לנזקים הנובעים משימוש במוצר. המאמר טוען כי התדיינות משפטית יכולה לשמש כרגולציה בפועל, לקבוע תקני בטיחות ולחשוף מידע שיכול בהמשך להנחות את המחוקקים בניסוח חקיקה ייעודית להתמודדות עם האתגרים הנובעים מהטכנולוגיה.
המחקר עוסק גם בוויכוח המתמשך האם יש לסווג תוכנה כ"מוצר". ד"ר גורדון-טפירו עומדת על כך שסיווג כזה הוא אפשרי מבחינה משפטית וכן רצוי מבחינה נורמטיבית, שכן הוא מספק מנגנון חיוני לקבלת סעד וממריץ את היצרנים לתעדף את בטיחות המשתמשים. בעוד שחלק מחברות הטכנולוגיה הציגו תכונות בטיחות עצמאיות בעקבות תביעות משפטיות שהוגשו לאחרונה, המחקר מצביע על כך שצעדים ואלו נעשים במסגרת רגולציה עצמית של החברות ואינם מתבססים מסגרת משפטית מחייבת.
בסופו של דבר, המאמר ממסגר את יישום דיני חבות המוצר כדרך מבטיחה לאזן בין ההבטחה החדשנית של הבינה המלאכותית לבין הצורך הבסיסי בהגנה על משתמשים אנושיים. על ידי הטלת אחריות על תאגידים בנוגע לבטיחות העיצובים הדיגיטליים שלהם, המערכת המשפטית יכולה לסייע להבטיח שידידים מבוססי בינה מלאכותית ישמשו ככלים לתמיכה, ולא ככלים למניפולציה.
המאמר המדעי בכותרת “A Liability Framework for AI Companions” התפרסם בכתב העת The George Washington Journal of Law and Technology וזמין לקריאה.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו