"רובוטים לוחמים עלולים לקבל החלטות לבד"

לוחמת העתיד:האם תיתכן מציאות בעתיד שבה האינטליגנציה המלאכותית שלהרובוטים הלוחמיםתסרב פקודה למפקד האנושי הישיר שלה?

האם יתכן שהרובוטים יחליטו שהם קיבלו פקודה בלתי חוקית ויפנו כנגד נותן הפקודה ולא כלפי האויב? לדברי מומחה התוכנה והעתידן המפורסם ד"ר איאן פרסון התשובה לכך היא חיובית ומעוררת שאלות לא פשוטות ביחס לתהליך הפיתוח המואץ של רובוטים לוחמים.

"אנשים לא מבינים, אבל אנחנו צועדים לאט לאט למצב שבו למכונות המשוכללות האלו תהיה תודעה. זה כמובן לא יקרה מחר, אבל היכולות של הבינה המלאכותית כל הזמן מתקדמות ויהיה שלב שבו הרובוטים כבר יוכלו למעשה לשקול בעצמם את ההשלכות של הפעילות שלהם. רמת התחכום של התוכנות תאפשר לרובוטים האלו בסופו של דבר לשפוט גם את הפקודות שניתנות להם על ידי בני אדם. מערך השיקולים של הרובוטים יהיה עצום, עם מרחב חשיבה כל כך גדול עד שלבד, גם בלי מודעות אנושית דומה לשלנו, המכונה תחליט שיש מערכת מוסרית גבוהה יותר מזו של נותן הפקודות בשטח ולכן היא תסרב פקודה. זה עלול גם להיות שבעת קרב, נגיד מול אזרחים או לוחמים אחרים, הרובוט יעשה חישוב ויגיע להחלטה שנותן הפקודה הוא האדם הכי מסוכן ואותו צריך לחסל", הוא אומר.

"יכול להתרחש אסון"

לדברי ד"ר פירסון, "אנשים לא מבינים מה זו בינה מלאכותית ועד כמה החיבור בין כלי נשק לרובוטים הוא לא דבר פשוט. צריך להבין שבסוף המכונה מקבלת את האוטונומיה לפעול, היא שוקלת שיקולים שאולי אדם יצר אבל היא כבר מחשבת ולוקחת לבד את ההחלטות. לכן במצב של מכונה סופר חכמה, אתה לא באמת יודע מה תהיה המסקנה שלה וזה מפחיד".

האזהרה הזו של ד"ר פירסון מצטרפת לאזהרות גוברות והולכות של אנשי מדע רבים מתחום הבינה המלאכותית, שקוראים למנוע את ייצורם של רובוטים לוחמים. בהקשר לכך, אחד ממייסדי העצומה הבינלאומית בנושא, החוקר והמדען ריצ'רד מויס, הזהיר כי אסון יכול להתרחש גם ללא כוונה מצד בני האדם. "ברגע שאתה נותן למכונה שליטה על כלי נשק, טעות אחת בחומרה או בחשיבה של המכונה ועלול להתחולל אסון של ממש. מעבר לכך, ברגע שמכונה מקבלת הוראה ויש לה את היכולת לפעול לבדה בשטח, אתה לוקח כלי עם יכולות ענקיות, מערכת חישוב עצמאית, חכמה לעיתים מהאדם עצמו, והיא תפעל הרבה מעבר למה שחשבת שהיא תעשה. הרובוט יקבל פקודת אש ויפעל לבדו כשטווח הפעולה שלו יהיה נרחב ולא צפוי על ידי מבצע הפקודה. ככה אפילו בלי משים, המכונה תבצע הרג המוני שהמתכננים לא תכננו בכלל. לכן צריך אמנה נרחבת בנושא ואולי לשקול מחדש האם מדינות צריכות להיכנס אל התחום".

אלא שלמרות הדאגה של המדענים, נראה כי הסוסים כבר יצאו מהאורווה וארה"ב, רוסיה, בריטניה, סין ומדינות נוספות בעולם מתכננות וכבר מפעילות רובוטים לוחמים. התוכניות האלו כבר יישומיות בחלק מהמקרים ולמרבה הצער בעתיד הקרוב אכן יפעלו בעולם רובוטים לוחמים.