פוקחים עין על ה-AI: המכון הראשון ל"בינה מלאכותית אחראית" קם בישראל

מכון טכנולוגי חולון (HIT) הודיע הבוקר (ראשון) על הקמת מכון מחקר יישומי חדש לתחום בינה המלאכותית אחראית, שיציב את ישראל בחזית הבקרה על AI ויבטיח שימוש בטכנולוגיות הבינה המלאכותית באופן אחראי ורגולטורי. מדובר במכון מחקר יישומי ראשון מתוך חמישה שיפתחו ב-HIT לטיפול באתגרים הטכנולוגיים של העשורים הקרובים.

"המכון החדש יהווה גשר בין חדשנות טכנולוגית לאחריות חברתית וצפוי להשפיע על התעשייה, האקדמיה ומדיניות הציבור, תוך פיתוח מסגרות אתיות שיבטיחו שימוש הוגן, שקוף ואחראי בטכנולוגיות AI", נמסר מהמכון.

"אנחנו מתכוונים להוביל מחקר ופיתוח בתחומי הבריאות הדיגיטלית, הערים החכמות והחינוך, תוך הבטחת שימוש הוגן ושקוף בטכנולוגיות AI. המטרה שלנו היא לא רק להבין את ההשפעות של AI, אלא גם לגבש פתרונות שיאפשרו לארגונים לאמץ בינה מלאכותית אחראית באופן מעשי”, אומרת הדס לורבר, ראש המכון למחקר יישומי בבינה מלאכותית אחראית, חברה בפורום המומחים המייעץ לממשלה לרגולציה ומדיניות בתחום הבינה המלאכותית ויו"ר שותפה של קבוצת האסטרטגיה הבינלאומית.

הקמת המכון מגיעה על רקע השימוש הגובר בטכנולוגיות AI, שמציב אתגרים מורכבים בתחומי הטיות אלגוריתמיות, שקיפות, פרטיות מידע ואחריות משפטית. על פי לורבר, המכון יעסוק בניתוח והפחתת הטיות, פיתוח מערכות והגדרת אחריות משפטית על החלטות שמתקבלות על ידי אלגוריתמים. "המכון החדש שואף להוביל שינוי בתחום, ולהבטיח שהתעשייה יחד עם האקדמיה יעודדו ויטמיעו יישום אחראי של בינה מלאכותית, תוך שמירה על זכויות הציבור".

המכון ישלב מחקר תיאורטי עם פרויקטים יישומיים, כמו הקמת "ארגזי חול רגולטוריים" - מסגרות ניסוי מבוקרות שיאפשרו לחברות לפתח ולבחון מוצרי AI תחת פיקוח טרום השקה מסחרית.

בנוסף, על פי הודעת המכון, המכון יקדם שיתופי פעולה עם חברות מהתעשייה, אוניברסיטאות ומכוני מחקר בארץ ובעולם ויספק לחברות טכנולוגיה "כלים ליישום אתיקה בבינה מלאכותית", לצד "סיוע בגיבוש רגולציה בשיתוף פעולה עם הכנסת והממשלה".

פרופ’ אדוארד יעקובוב, נשיא HIT מכון טכנולוגי חולון: "בעולם שבו הבינה המלאכותית הופכת לכלי מרכזי כמעט בכל תחום, עלינו לוודא שהשימוש בה מתבצע בצורה מבוקרת ומושכלת. המכון החדש ישמש פלטפורמה למחקר ולפיתוח כלים שיבטיחו שהטכנולוגיות הללו ישרתו את החברה ולא יעמידו אותה בסיכון".

ד"ר רפאל ברכאן, סגן נשיא לחדשנות, יזמות ובינלאומיות, HIT מכון טכנולוגי חולון: "הבינה המלאכותית האחראית חיונית לאקדמיה היישומית ולתעשייה כאחד, ומחזקת את הקשר מחויב המציאות שביניהן, בהיותה מאפשרת שיתופי פעולה מחקריים, פיתוח תוכניות התמחות רלוונטיות, ויישום פתרונות אתיים לבעיות אמיתיות, תוך יצירת גשר בין התאוריה לפרקטיקה, וחשיפת הסטודנטים לאתגרים ולפתרונות אמיתיים, תוך שמירה על עקרונות אתיים בעולמות תוכן שונים".