גוגל תייגה שחורי עור כגורילות

גוגל היא מובילה עולמית באינטליגנציה מלאכותית, אולם באחרונה היו לה שני כשלונות מהדהדים. אפליקציית התמונות החדשה Photos שהושקה באחרונה, מתייגת אנשים שחורי עור כ"גורילות". את התקלה גילה מתכנת בשם ג'קי אלסינה, שהעלה לטוויטר את התמונה עם התיוג השגוי. "גוגל Photos, כולכם דפוקים. החבר שלי איננו גורילה", כתב.

"אנו מזועזעים ובאמת מצטערים שזה קרה", התנצלה דוברת מטעם החברה. "ברור שיש עוד הרבה עבודה כדי לתייג תמונות בצורה אוטומטית, ואנו בודקים איך למנוע שגיאות כאלה מלהתרחש בעתיד".

רוצים לקבל עוד עדכונים? הצטרפו לישראל היום בפייסבוק

תיוג ה"גורילה" הופיע בחיפוש באפליקציה שהושקה רק לפני מספר שבועות. כשמתחילים חיפוש, גוגל מציעה קטגוריות שפותחו מתוך למידה ממוכנת ואימון מחשבים לבצע משימות אנושיות כמו תיוג. החברה הסירה בשלב זה את קטגורית ה"גורילה" כך שהיא איננה מופיעה עוד.

עדיף להיות חכמים

הטעות הזו מצטרפת לתקלה לא פחות חמורה בפרויקט המכונית האוטונומית של גוגל, שיצא בשבוע שעבר לשלב השני ברחובות צפון קליפורניה. דו"ח משרד התחבורה של קליפורניה גילה, כי המכוניות האוטומטיות היו מעורבות בכמה וכמה תאונות במהלך הניסוי, כשבכל המקרים האשמה הייתה בנהג הרכב השני שהיה מעורב בתאונה ולא ברובוט שנהג ברכב של גוגל. גם השבוע היו שתי תאונות נוספות, וגם הפעם לא באשמת הרכב הרובוטי.

גוגל צריכה להכניס לאלגוריתם שלה מרכיב, שידע שגם אם הנהג השני שוגה, לא עוצר בעצור, או לא נותן זכות קדימה, לסלוח ולא להתעקש ליטול זכות קדימה. גוגל צריכה כנראה להפנים, שבכביש לא מספיק להיות צודק, צריך גם להיות חכם.

שגיאה נוספת באינטליגנציה מלאכותית מבית גוגל הייתה בהשקת YouTube Kids בתחילת השנה, ערוץ מאובטח, שהיה אמור לספק תכנים נקיים לגילאים צעירים, אולם המערכת החמיצה תוכן לא ראוי, שהילדים נחשפו אליו. דוברת גוגל מסרה אז, כי "כמעט בלתי אפשרי להגיע לדיוק של מאה אחוזים".