גוגל תגביל פיתוח בינה מלאכותית קטלנית

גוגל הכריזה, כי לא תשתמש בבינה מלאכותית ליצירת נשק, או "לגרום או לאפשר ישירות פגיעה בבני אדם". צעד זה של גוגל בא על רקע דאגה גוברת מהאפשרות שמערכות רובוטיות תבוניות ינוצלו לרעה או שתאבד השליטה עליהם, דבר שעלול להוביל לכאוס מוחלט.

מנכ"ל גוגל, סאנדר פיצ'אי, פירט בבלוג של גוגל את מדיניות החברה הנוגעת לבינה מלאכותית, וכתב כי למרות שגוגל לא תשתמש בבינה מלאכותית בנשק, "נמשיך בעבודה שלנו עם ממשלות ועם הצבא בתחומים רבים אחרים", כמו אבטחת סייבר, אימונים, חיפוש והצלה.

ההכרזה של גוגל באה בעקבות מחאה של עובדים בחברה נגד חוזה Project Maven שחתמה גוגל עם צבא ארצות הברית. בשבוע שעבר הודיעה גוגל, כי חוזה זה לא יחודש עוד.

המנכ"ל פיצ'אי פירט שבעה עקרונות ליישום של בינה מלאכותית בגוגל, או מיחשוב מתקדם, שנועד לבצע סימולציה חכמה של התנהגות אנושית. לדבריו, גוגל משתמשת בבינה מלאכותית כדי לסייע לבני אדם לפתור בעיות דחופות כמו תחזית של שריפות יער טבעיות, סיוע לחקלאים, איבחון מחלות ומניעת עיוורון. "אנו מכירים בכך שטכנולוגיה בעוצמה כזו מעלה שאלות בעוצמה דומה על השימוש בה", כתב פיצ'אי בבלוג. "לדרך של התפתחות הבינה המלאכותית והשימוש בה יש השפעה משמעותית על החברה שלנו לשנים רבות בעתיד. כמובילים בבינה מלאכותית, אנו מרגישים אחריות גדולה לבצע זאת בצורה נכונה".

מנכ"ל גוגל כתב עוד, כי תוכנות בינה מלאכותית צריכות לשמש ליישומים מועילים חברתית, ולמנוע "יצירה או חיזוק של נטייה בלתי הוגנת". לדבריו, העקרונות ליישום הבינה המלאכותית צריכים להיבנות ולהיבדק לפי כללי בטיחות, ולשלב עקרונות של שמירה על הפרטיות", כותב פיצ'אי. בכך, מצטרפת גוגל גם למיקרוסופט שהכריזה על צעדים דומים ואף הקימה וועדת אתיקה ייעודית לשם כך בתוך החברה.

גוגל גם תימנע משימוש בטכנולוגיות "הגורמות או עלולות לגרום נזק כלשהו". משמעות העיקרון, היא שלא ייעשה שימוש ב"נשק או טכנולוגיות אחרות שהיישום שלהם עלול לגרום או להקל על פציעה של בני אדם" וגם מערכות "האוספות או משתמשות במידע כדי לבצע מעקב המפר התנהגות מקובלת".

גוגל גם תמנע שימוש בטכנולוגיות "שמטרתן נוגדת עקרונות מקובלים של חוק בינלאומי ושל זכויות אדם".

קרן החזית האלקטרונית, ה-EFF, שהובילה את המחאה נגד החוזה של גוגל עם הפנטגון, מסרה בתגובה להודעת מנכ"ל גוגל, כי "זהו ניצחון גדול לעקרונות האתיקה של בינה מלאכותית".

עוד חדשות על עליית המכונות בערוץ הטלגרםשל ערוץ הטכנולוגיה והמדע