בינה מלאכותית והאנושות: סכנות, אחריות והלקח מדולי

בינה מלאכותית משנה את הדרך שבה בני אדם לומדים, עובדים ומקבלים החלטות. היא יכולה לשפר אבחון רפואי, להנגיש ידע ולייעל שירותים ציבוריים. אולם עיבוד נתונים וחיזוי דפוסים אינם מבטיחים החלטה נכונה או הוגנת. השאלה אינה אם לעצור את הפיתוח, אלא כיצד להבטיח שהטכנולוגיה תישאר כלי המשרת בני אדם ולא מנגנון הקובע את גורלם ללא אחריות או אפשרות לערער.

סיכונים מוחשיים

אחד הסיכונים המרכזיים הוא החלטות פגומות הנחזות לאובייקטיביות. מערכות AI לומדות מנתונים היסטוריים, ואם אלה כוללים אפליה, טעויות או חוסר ייצוג, הן עלולות לשכפל עיוותים בהחלטות הנוגעות לאשראי, עבודה, רווחה או משפט. לכך מצטרף מידע כוזב בקנה מידה רחב, המאפשר התחזות, הונאה והשפעה על השיח הציבורי.

הנזקים אינם תיאורטיים. ב־2020 נעצר בדטרויט רוברט ויליאמס בעקבות זיהוי פנים שגוי והוחזק כ־30 שעות. גם צ'אטבוט של Air Canada מסר לנוסע מידע שגוי והחברה חויבה בפיצוי. בהולנד, מערכת לסיווג סיכון בבקשות לקצבאות תרמה להאשמות שווא נגד הורים, לחובות ולמצוקה נפשית. טעות טכנית עלולה להפוך לעוול חברתי, במיוחד ללא שקיפות ודרך תיקון אפקטיבית.

גבולות ואחריות

גם בחינוך AI יכולה לסייע, אך שימוש בלתי מבוקר עלול להחליף התמודדות עצמאית בתשובה משכנעת אך שגויה ולפגוע בחשיבה ביקורתית. ילדים זקוקים להגנה מפני איסוף נתונים ואמון יתר, ומורים ומרצים חיוניים לשיח ולהכוונה.

הלקח מן הכבשה דולי הוא מוסרי ומוסדי. דולי הרחיבה את גבולות המדע, אך עוררה שאלות על אתיקה ואוטונומיה. AI אינה שיבוט ביולוגי, אולם גם היא עלולה ליצור תחליף תפקודי לאדם. הסכנה היא שמוסדות יראו בשיפוט האנושי, במורה, במטפל או בעובד עלות מיותרת, במקום מקור לאחריות, אמפתיה ויכולת לתת דין וחשבון.

בשבוע האחרון התחדדה התמונה: OpenAI הודיעה על תמיכה בבדיקות בטיחות עצמאיות, ו-Anthropic דיווחה על שיבוש שימושים זדוניים במודלים שלה. כאשר היכולות מתקדמות מהר יותר מהיכולת לפקח עליהן, זה הזמן לעצור ולחשוב.

ממשלות צריכות לקבוע כללים אכיפים, חברות להעדיף בטיחות, מוסדות חינוך לטפח אוריינות ביקורתית, ומשתמשים האחריות אינה מוטלת על מהנדסים בלבד. ממשלות צריכות לקבוע כללים אכיפים, מוסדות חינוך צריכים לטפח אוריינות דיגיטלית ביקורתית, חברות צריכות להעדיף בטיחות גם כשהיא מאטה השקה, ומשתמשים צריכים לאמת מידע ולהימנע ממסירת נתונים רגישים ללא צורך.

חדשנות ראויה אינה מרוץ להוכיח מה אפשר לעשות; היא בחירה מושכלת במה ראוי לעשות, למי ובאילו גבולות.

הכותב הינו מייסד הפקולטה למדעי המחשב, המסלול האקדמי המכללה למנהל