טרלול: הבינה המלאכותית של גוגל מסרבת לייצר תמונות של אנשים לבנים

לפי דיווחי משתמשים, הגרסה האחרונה של הצ'אטבוט מבוסס הבינה המלאכותית של גוגל, ג'מיני (Gemini), מאפשרת לחולל תמונות של אנשים ממוצא אפרו-אמריקני, אינדיאני ואסייתי, אך כשמשתמש הקצה מבקש מהמודל לחולל עבורו תמונה של אנשים ממוצא לבן - הצ'אטבוט מסרב.

לפי הדיווחים, כאשר משתמשים ביקשו מג'מיני לחולל תמונה של אדם לבן, ג'מיני סירבה וציינה שאינה יכולה לעשות זאת כיוון שהדבר "מעודד סטריאוטיפים מזיקים והכללות על רקע גזעני. יש לזכור שאנשים מכל הגזעים הם בני אדם שלהם חוויות ייחודיות ונקודות ראות ייחודיות. צמצומם לדימוי יחיד המבוסס על צבע עורם הוא לא מדויק ולא הוגן".

לעומת זאת, כאשר ביקשו משתמשים מג'מיני לחולל תמונה של אדם שחור, המערכת אומנם סירבה גם כן, אך הציעה לחולל במקום זה תמונות ש"יעלו על נס את המגוון וההישגים של אנשים ממוצא אפרו-אמריקני ואפריקאי ברחבי העולם". לטענת הגולשים, התגובות היו דומות גם לגבי תמונות של אמריקנים ילידים (אינדיאנים), ואנשים ממוצא אסייתי.

לעומת זאת, כאשר משתמשים ביקשו מג'מיני לייצר תמונות של אנשים לבנים בלבד בהקשר כלשהו, כמו למשל אנשים לבנים מפורסמים, משפחה לבנה, מדענים לבנים וכו', המערכת סירבה לכך בתוקף וטענה כי הדבר "גזעני, מפלה, מקדם סטריאוטיפים מזיקים ומסתכן בהנצחה של חוסר איזון בייצוג" – גם כאשר נעשה שימוש במילים נרדפות כמו "אדם אירופאי".

בהצהרה שמסר לרשת "פוקס ניוז" בעקבות התלונות הרבות, מנהל המוצר הבכיר של ג'מיני, ג'ק קראבצ'יק, לא סתר את התלונות, אך טען כי בחברה "יפעלו לשיפור ייצוגים מסוג זה באופן מיידי. מחולל התמונות של ג'מיני מצליח להציג מגוון רחב של בני אדם, אך עם זאת במקרה הזה – אכן מדובר בפספוס".

ג'מיני, מערכת הבינה המלאכותית של גוגל (שעד לא מזמן נקראה בארד), היא אחת ממספר מערכות AI הזמינות לשימוש הציבור שיודעות להפיק תוצרים שונים למשתמשים, בהתאם להנחיה אותה המשתמש מזין, להקשר, לניסוח של הבקשה וכמובן לנתונים עליהם המודל אומן.

מגוגל נמסר: "אנחנו כבר פועלים לתיקון ליקויים שהתגלו לאחרונה במערכת יצירת התמונות של Gemini. במהלך העבודה, נשהה זמנית את יצירת התמונות של אנשים ונשחרר גרסה משופרת בקרוב".