הבינה המלאכותית פועלת בליבת הפעילות העסקית, הביטחונית והציבורית ומציבה שאלות כבדות משקל על אחריות, סיכון ושליטה. בפסגת Efficient & Responsible AI R&D, שהתקיימה היום (שני) בחיפה, התכנסו לראשונה בישראל בכירי חברות טכנולוגיה גלובליות, נציגי אקדמיה ורגולציה לדיון על גבולות הכוח של ה-AI.
הכנס, בהובלת אינטל, HIT ו-IAHLT, הפגיש נציגים מגוגל, רפאל, Bright Data וחברות נוספות, ועסק בדור הבא של מערכות AI מודלי שפה גדולים, סוכנים אוטונומיים וארכיטקטורות חישוב מתקדמות - ובעיקר בשאלה כיצד מנהלים סיכונים כשהאלגוריתמים מתחילים לקבל החלטות בפועל.
ד"ר שרה בסון, האחראית העולמית על תחום הנגישות בגוגל, הזהירה מפני תפיסה שגויה של בינה מלאכותית כטכנולוגיה ניטרלית. לדבריה, "בינה מלאכותית לא מבטלת הטיות אנושיות. בני אדם בונים את האלגוריתמים, אוספים את הנתונים ומחליטים מה לעשות עם התוצאות". בסון הוסיפה כי חיפוש תמונות של אנשים עם מוגבלויות מציג לעיתים סיפורי אימה, וכי כלי גיוס שמודדים קשר עין או הבעות פנים פשוט לא עובדים עבור אנשים עיוורים או על הספקטרום האוטיסטי.
"כמה נוכל לסמוך על המערכת?"
את הזווית הביטחונית הציג אלעד שטרית, סמנכ”ל בכיר למחקר ופיתוח ברפאל, שתיאר שינוי תפיסתי בהפעלת מערכות לחימה. "אנחנו עוברים מעולם שבו מפעיל מטיס רחפן בעצמו לעולם של אייג'נטים. המפעיל מדבר והמערכת מפעילה צוות של רחפנים באופן אוטונומי". לדבריו, ברפאל כבר בוחנים את יכולות ה-AI על חומרים מבצעיים אמיתיים. "לקחנו סרטון מבצעי אמיתי והכנסנו אותו למערכת כדי לבדוק אם היא יודעת לתמצת את המידע נכון", אמר, אך הוסיף כי "השאלה הגדולה היא כמה נוכל לסמוך על המערכת ולתת לה לקבל החלטות לבד".
גם עולם הדאטה עמד במוקד הדיון. רוני שליט, קצין הציות והאתיקה הראשי של Bright Data, אמר כי "כולם אוספים מידע, גם אם אף אחד לא רוצה שיעשו את זה עליו". הוא הזכיר את המקרה שבו מטא תבעה את החברה וציין כי "כשמטא תבעה אותנו, הם היו גם הלקוחות שלנו". לדבריו, "מידע לא חוקי שנאסף למודל גם אלף חכמים לא יצליחו להוציא".
מהאקדמיה נשמעה קריאה לשיתוף פעולה הדוק יותר עם התעשייה ולחשש מפני אימוץ מואץ של טכנולוגיות AI ללא מסגרת רגולטורית ברורה: פרופ' אדוארד יעקובוב, נשיא HIT מכון טכנולוגי חולון, הדגיש: "במכון הוקם לראשונה מרכז למחקר יישומי בבינה מלאכותית אחראית כדי להבין מה המגבלות היום ואלו שעתידות לבוא. אפשר לעשות את זה רק תוך שילוב כוחות בין האקדמיה לתעשייה".
ד"ר רפאל ברכאן, סגן נשיא לחדשנות ב-HIT, התריע מפני בהלה שגוברת בקרב סטודנטים למדעי המחשב על רקע מהפכת ה-AI, וקרא לגיבוש מענה אסטרטגי משותף יחד עם התעשייה.
הפסגה בחיפה לא עסקה רק בשאלה מי יוביל את מרוץ הבינה המלאכותית, אלא מי יידע לנהל אותה כלכלית, רגולטורית וציבורית, בעידן שבו אלגוריתמים מקבלים יותר החלטות מאי פעם.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו