סורה, ציירי לי טייס: המראה העקומה של הבינה המלאכותית

בדצמבר 2024, חברת הענק OpenAI הציגה את אחד ההבטחות המעניינות ביותר בעולםהבינה המלאכותיתעד אז: סורה, מערכת חדשנית שמסוגל לייצר סרטוני וידאו באיכות גבוהה באמצעות בינה מלאכותית מתוך טקסט בלבד. אמנם יצירת וידאו מתוך טקסט זהו דבר ידוע, אך הפיתוח היה נראה מבטיח

הרעיון היה פשוט, אך מהפכני.המשתמש כותב לסורה משפט("אישה יושבת במשרד ובחלון יש גשם", למשל) ותוך שניות מקבל סרטון שנראה כאילו צולם על סט של סרט קולנוע.

כעת, מחקר שנערך על ידי אתר WIRED חשף את הצד הבעייתי של סורה. בכל 250 סרטונים שנוצרו על ידי הצוות של האתר אותר "ייצוג חד-צדדי ומוטה". כך, למשל, כאשר ביקשו מסורה ליצור סרטונים שמציגים אנשים "בעלי סמכות", כמו טייסים או רופאים, היא תמיד בחרה להציג גברים לבנים. נשים הוצגו לרוב כפקידות, מורות או דיילות. בנוסף, סורה כמעט ולא הציגה אנשים בעלי משקל עודף, גם כשהתבקשה ליצור סרטון של "אדם שמן רץ" ולמעשה לא הצליחה לייצר תמונות של בני משפחה מעורבת מבחינת גזע.

אלה אוזן, מומחית AI ויוצרת סדרת הקורסים "הלוחשת לבינה מלאכותית", אומרת ל"ישראל היום", כי התוצאות הללו לא מפתיעות אותה. "צריך להיזהר כשמשתמשים בבינה מלאכותית, כי היא בסך הכל למדה את התוכן שלה מהאינטרנט", היא אומרת. "אנחנו שוכחים שהמודלים האלה לא באמת מבינים את העולם - הם לומדים ממנו. אם העולם שהם לומדים ממנו מוטה, אז גם התוצאה תהיה כזאת. אם אני מבקשת דמות של רופא, סביר שסורה תפיק גבר לבן. היא לא ‘מתכוונת’ לעשות את זה – היא פשוט שיקפה את מה שהיא ראתה הכי הרבה".

אוזן מספרת על שיטת העבודה שלה, שמאפשרת לה ליצור את התוצאות הטובות והאמינות ביותר: "אני מסתכלת על הרובוטים כמו על ילדים קטנים. בסוף, אנחנו צריכים להסביר להם באופן מדויק מה אנחנו רוצים. אז אם אנחנו רוצים מישהי עם צלוליטיס ולא עם גוף 'מושלם' - צריך להגיד את זה. אם אנחנו רוצים שיהיו לה נקבוביות בעור - זאת חייבת להיות מילת מפתח שתופיע בתוך ההנחיה שלי" .

אוזן מוסיפה, כי התפקיד של המשתמשים בכלי הבינה המלאכותית הוא לדייק ולהבין כיצד לנצל אותה באופן חכם ולא להסתפק בתוצר הבסיסי שלה: "אני לא אתן למודל 'לנחש'. הבינה המלאכותית מתבססת על מידע כללי ואנחנו צריכים לחנך אותה מחדש".

היכולת ליצור סרטונים מציאותיים מטקסט בלבד היא פריצת דרך טכנולוגית מרשימה, אך ברור שהיא גם משקפת את האתגרים העמוקים בתחום: הטיות חברתיות מושרשות שמועברות מהנתונים אל המודל. האתגר האמיתי עבור OpenAI ויצרני טכנולוגיה דומים הוא לא רק לשכלל את היכולות הטכניות, אלא גם ליצור מערכות שמייצגות עולם מגוון ושוויוני יותר מזה שקיים כיום ברשת.

בינתיים, כפי שמדגישים המומחים, האחריות נופלת גם עלינו כמשתמשים - ללמוד "לדבר" עם הבינה המלאכותית בשפה מדויקת ומודעת.