בזמן שבכירי עולם הבינה המלאכותית מזהירים מפני היום שבו מערכות AI יהיו חזקות ועצמאיות מדי, בעולם התעופה מתרחש משהו מסקרן במיוחד: הבינה המלאכותית כבר לומדת לעשות דברים שעד לא מזמן היו שמורים לטייסים ולפקחי טיסה בלבד. היא יודעת להמריא ולנחות, לדבר עם מגדל הפיקוח, לשנות מסלול באמצע הטיסה ואפילו לסייע בניהול התנועה בשמיים.
שורה של התפתחויות שנחשפו ממש בימים האחרונים מראה עד כמה מהר זה קורה, ומעלה שאלה פשוטה אך מטרידה: כמה שליטה אנחנו באמת מוכנים להעביר למחשב כשאנחנו נמצאים אלפי מטרים מעל הקרקע?
העיתוי אינו מקרי. בשבוע האחרון פורסמה שורה של אזהרות חריגות מצד חוקרי בינה מלאכותית, כולל כאלה שעובדים או עבדו בחברות שמפתחות את המערכות המתקדמות בעולם.
אחד מהם, חוקר Anthropic אוון האבינגר, העריך כי קיים סיכון של יותר מ־10% שבינה מלאכותית תוביל לתוצאה קטסטרופלית עבור האנושות בעשור הקרוב. חוקרים נוספים הזהירו שהמערכות מתקדמות במהירות כזו, שהיכולת שלנו לשלוט בהן עלולה שלא להתפתח באותו הקצב.
חשוב להדגיש: אין כיום הסכמה מדעית שתרחיש כזה אכן יתרחש, ובוודאי שאין הוכחה שה-AI הקיים כיום עומד "להשתלט על העולם". אלא שהעובדה שחלק מהאזהרות מגיעות דווקא מתוך החברות שמפתחות את הטכנולוגיה הפכה את הדיון להרבה יותר רציני.
בדיוק באותו שבוע בו מושמעת הביקורת, בעולם התעופה מתרחש תהליך שעשוי להישמע כמעט הפוך - נעשו כמה צעדים גדולים בדרך להעברת יותר משימות ל-AI.
ממריא, נוחת ומדבר עם מגדל הפיקוח
ב־10 בספטמבר הציגה חברת Merlin בטקסס מערכת בשם Merlin Pilot, שנועדה לאפשר למטוס לבצע בעצמו פעולות שבעבר דרשו טייס.
בהדגמה הוצגו יכולות מרשימות: המטוס יכול להמריא ולנחות באופן אוטומטי, לתקשר עם בקרי הטיסה באמצעות AI, לשנות את מסלול הטיסה תוך כדי תנועה ואף להגיב לאיומים או לשינויים בדרך.
לפי החברה, המערכת כבר ביצעה מאות טיסות במסגרת ניסויים. אבל אולי הפרט המעניין ביותר הגיע יום קודם לכן: Merlin הודיעה שהיא רוצה להתמקד מעתה בהבאת הטכנולוגיה הזאת גם למטוסים אזרחיים גדולים.
זה עדיין לא אומר שמחר בבוקר נעלה על טיסת נוסעים ללא טייס. הדרך לשם, אם בכלל, עוד ארוכה ודורשת אישורים של רשויות התעופה. אבל הכיוון שאליו מסתכלת התעשייה כבר ברור.
בשבוע האחרון קיבלנו המחשה קיצונית עוד יותר. ב־14 בספטמבר הציגו יצרנית המטוסים Textron וחברת Merlin רעיון למטוס Cessna SkyCourier שבו אין בכלל תא טייס. המקום שבו יושבים בדרך כלל הטייסים הופך לחלק נוסף של המטוס שניתן להשתמש בו להעמסת מטען, והמערכת של Merlin אמורה להטיס אותו.
נכון לעכשיו מדובר ברעיון המיועד למשימות לוגיסטיות צבאיות ולא למטוס נוסעים. ובכל זאת, התמונה של מטוס שבו הקוקפיט פשוט נעלם ממחישה בצורה אולי הטובה ביותר עד כמה רחוק הגיעה הטכנולוגיה.
ומה אומרים באירופה?
גם רשויות התעופה כבר נערכות לעולם החדש. ב־9 וב־10 בספטמבר קיימה הסוכנות האירופית לבטיחות תעופה, EASA, כנס מיוחד שעסק בבינה מלאכותית בתעופה.
מאחורי הכותרת הטכנולוגית מסתתרות שאלות שכל נוסע יכול להבין: האם אפשר לסמוך על החלטה שקיבל מחשב? מה קורה כשהוא טועה? מי אחראי במקרה כזה? ואילו החלטות חייבות להישאר בידיים של בני אדם?
אלה אינן עוד שאלות של מדע בדיוני. EASA כבר עובדת על הכללים שיקבעו כיצד ניתן יהיה להשתמש ב-AI בתעופה האירופית.
מנכ"ל הסוכנות האירופית לבטיחות תעופה, פלוריאן גיירמה, הודה כי עולם התעופה איחר לאמץ את הבינה המלאכותית, וכעת ניצב בפני אתגר לא פשוט: הטכנולוגיה מתקדמת במהירות עצומה, בעוד שבתעופה כל מערכת חדשה חייבת לעבור בדיקות ואישורי בטיחות קפדניים. מומחים בענף תהו בעקבות דבריו האם הענף בכלל יצליח לעמוד בקצב.
גם מגדל הפיקוח משתנה
השינוי לא מתרחש רק בתוך המטוס. גם האופן שבו מנהלים אלפי מטוסים בשמיים מתחיל להשתנות.
ב־10 בספטמבר נפגש מנהל רשות התעופה האמריקנית, ה-FAA, עם מנכ"לי חברות התעופה הגדולות בארה"ב לקראת הכנסת מערכת חדשה בשם SMART.
הרעיון פשוט יחסית: המערכת יכולה לקחת כמויות עצומות של מידע - טיסות מתוכננות, מזג האוויר, עומסים בשדות התעופה ומצב התנועה בשמיים - ולנסות לצפות מראש היכן עומדות להיווצר בעיות. במקום לחכות שהעומס או העיכוב יתרחשו ואז לנסות לפתור אותם, המערכת אמורה לעזור לקבל החלטות מוקדם יותר.
ארה"ב משקיעה בפרויקט סכום עצום: ה-FAA העניק לחברת Air Space Intelligence חוזה של 875 מיליון דולר ל־12 שנים. בשלב הראשון המטרה היא בעיקר לצמצם עיכובים ולנהל טוב יותר שיבושים שנגרמים ממזג האוויר. אבל בעתיד הטכנולוגיה צפויה לסייע גם בתכנון טיסות ונתיבים עוד לפני שהמטוסים ממריאים.
אז בשביל מה עדיין צריך בני אדם?
זו בדיוק השאלה שגם ארגון חברות התעופה הבינלאומי, IATA, מתחיל לשים במרכז.
ב־10 בספטמבר הודיע הארגון כי ועידת הבטיחות והתפעול העולמית שלו, שתתקיים באוקטובר באיסטנבול, תעסוק השנה דווקא בחשיבות של הגורם האנושי בעידן שבו יותר ויותר טכנולוגיה נכנסת לתעופה.
המסר של IATA ברור: מחשבים יכולים לעבד מידע במהירות עצומה ולעזור בקבלת החלטות, אבל דווקא כשהדברים משתבשים - מזג אוויר קיצוני, תקלה או מצב שלא תוכנן מראש - שיקול הדעת האנושי עדיין קריטי.
וכאן מתחברים שני הסיפורים שמתרחשים בעולם ממש עכשיו. מצד אחד, הבינה המלאכותית יכולה להפוך את התעופה ליעילה ובטוחה יותר. היא יכולה לזהות בעיות מהר יותר מבני אדם, לעזור לטייסים, לצמצם עיכובים ולנהל טוב יותר את השמיים העמוסים.
מצד שני, באותו שבוע שבו תעשיית התעופה מציגה עוד ועוד שימושים ל-AI, חלק מהאנשים שמכירים את הטכנולוגיה הזאת טוב מכולם מזהירים מפני מצב שבו בני האדם יעבירו למערכות חכמות מדי יותר מדי עצמאות.
חשוב גם לשים את הדברים בפרופורציה: מטוסי הנוסעים שאנחנו עולים עליהם היום אינם מוטסים על ידי ChatGPT או על ידי AI עצמאי. המטוסים המודרניים אמנם משתמשים כבר שנים במערכות אוטומטיות מתקדמות, אבל הטייסים עדיין נמצאים בתא הטייס ואחראים על הטיסה. טכנולוגיות חדשות עוברות גם תהליכי בדיקה ואישור ארוכים לפני שמותר להשתמש בהן בתעופה מסחרית.
אין כיום גם ראיה לכך שמערכת AI מסוגלת להשתלט על מערכת התעופה העולמית או לגרום למטוסים "ליפול מהשמיים", אבל משהו משמעותי בהחלט משתנה. השאלה האמיתית היא כמה שליטה בני האדם יהיו מוכנים להשאיר בידיים של הבינה המלאכותית.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו