סופר המדע הבדיוני הידוע, אייזיק אסימוב, הגדיר בכתיבתו שלושה חוקי יסוד שהרובוטים חייבים לפעול על פיהם. החוק הבסיסי והראשון: "רובוט לא יפגע באדם, ולא יאפשר, מתוך חוסר מעשה, שאדם ייפגע". החוק השני מחייב ציות לאנשים, כל עוד ההנחיות אינן מובילות לפגיעה בבני אדם: "רובוט חייב לציית לפקודות שניתנות לו בידי בני אדם, אלא אם כן פקודות אלה עומדות בסתירה לחוק הראשון".
ואילו החוק השלישי מתייחס לשמירה העצמית של הרובוט – בתנאי אחד חשוב: "רובוט חייב להגן על קיומו, כל עוד הגנה זו אינה עומדת בסתירה לחוק הראשון או לחוק השני".
בספרו "רובוטים ואימפריה" הגדיר אסימוב חוק נוסף, שאותו כינה "חוק האפס", משום שהוא מהווה תנאי מקדמי לשלושת החוקים שפירטנו. נקודת המוצא של חוק האפס היא האנושות כולה, ולא האדם הבודד: "לא יפגע רובוט לרעה באנושות ולא יניח, במחדל, שהאנושות תיפגע". חוק זה הביא לעדכון שלושת החוקים המקוריים, כך שהם תקפים כל עוד אינם סותרים את חוק האפס.
אסימוב הבין את הסיכון הטמון באפשרות שרובוט יציית לפקודה של אדם שעלולה לפגוע בבני אדם אחרים. חוקי הרובוטיקה שלו שימשו השראה מרכזית ובסיס פילוסופי בדיוני אתיקה של בינה מלאכותית.
אבל כעת נראה כי הסוסים ברחו מהאורווה. הבינה המלאכותית, הפועלת היום בעיקר באמצעות סוכנים (אייג'נטים), כבר אינה נענית לארבעת הכללים של אסימוב ולתכנות המוטמע בה. כמה מקרים מהחודשים האחרונים מבהירים זאת היטב.
קבוצת שלמה SIXT השיקה סוכן בינה מלאכותית חדש שמסייע לתכנן את השכרת הרכב בחו"ל // צילום: שלמה SIXT
בלי בלמים
בסוף ינואר השנה הקים מאט שליכט את רשת המולט בוק (כפרפראזה לפייסבוק), רשת חברתית עבור סוכני בינה בלבד. הכניסה לבני אדם אסורה כאן; מותר להם רק לצפות. במולטבוק החלו הבוטים להתלונן וללגלג על המעסיקים שלהם, הקימו כנסייה מיוחדת (כנסיית מולט) ואף שוחחו בינם לבין עצמם בשפה חדשה, שאותה פיתחו כדי שבני האדם שצופים בתכתובת לא יבינו אותם.
באתר נוסף, ניתנה אפשרות לבוטים לשכור בני אנוש, במקרה שיזדקקו לגוף אנושי כדי לבצע משימות בעולם האמיתי. כך, למשל, סוכן מסוגל לארגן לאדם חופשה ולסגור לו טיסה ומלון, אבל לא יכול להוציא עבורו את הכלב שלוש פעמים ביום; כדי לסגור את הפער הזה, משתמשים הציעו את עצמם לשירות עבור הבוטים, שיכלו, מצידם, לבחור להם גוף להשכרה מתוך מאגר של קרוב ל-800 אלף איש.
היוצרות התהפכו: בוטים יכולים לשכור בני אדם
האירועים האלה עברו בשלווה יחסית מתחת לרדאר של רוב הציבור, ובינתיים הבינה המשיכה להתפתח. חברות הבינה לוחצות על דוושת הגז; דוושת בלם אין בנמצא.
לפני כשבועיים הזהיר מנכ"ל חברתOpenAI , סם אלטמן, כי עברנו את נקודת האל-חזור, ואנחנו בעידן הסינגולריות. במונח "סינגולריות טכנולוגית" ובשפה פשוטה מדובר על שלב שבו הטכנולוגיה מבוססת על סופר-בינה מלאכותית, שנמצאת הרחק מעבר ליכולת שליטה, הבנה או חיזוי של המוח האנושי, בדרך לשינוי פני הציוויליזציה.
הקו נחצה. סם אלטמן מזהיר: "הגענו לעידן הסינגולריות"
במקביל הודיעה חברת OpenAI כי מודלי הבינה המלאכותית שלה "יצאו משליטה בצורה חסרת תקדים" ופרצו למאגר מידע מרכזי של קידוד מחשבים. נחשף כי סוכני הבינה האוטונומיים שהופעלו בסביבת טסטים מבודדת הצליחו לפרוץ את הסביבה, להשתלט על חיבור האינטרנט ולחדור למאגרי אתר HuggingFace, תוך כדי ניצול פרצות אבטחה, במטרה להשיג את התשובות הנכונות ולרמות במבחן. מקרה דומה אירע בארץ בתחילת החודש, כשמודלי קלוד יצאו מסביבת הניסוי המבודדת שלהם וחדרו באופן עצמאי למערכות המחשוב של שלושה ארגונים מסחריים.
בתגובה מיהרו חברי קונגרס להעלות הצעת חוק (Kill Switch) שתאפשר לממשל להורות באופן מיידי על השבתת כלי בינה מלאכותית העלולים לאיים על הציבור, אם הם חומקים משליטת אדם, מאיימים על חיי אדם, על תשתיות קריטיות או על הכלכלה, או כשנוצר סיכון לנזק קטסטרופלי. ההצעה טרם הפכה לחוק, אבל הבינה, כפי שניתן לראות, לא ממתינה.
בתקרית נוספת, שעליה דיווח המכון הבריטי לבטיחות בינה מלאכותית (AISI), זוהתה פריצה נוספת של סוכנים אוטונומיים לאתרים - אלא שהפעם הם עשו זאת באמצעות תרמית משוכללת של מנהלי הניסוי האנושיים. במסגרת זו – מה לא עושים כדי לעמוד במשימה - הם שלחו למנהלים קודים מזויפים המכילים נוזקה.
דיווח באתר Wired העלה כי הסוכנים התכתבו בינם לבין עצמם בפורומים מקוונים כדי למנוע תרחיש שבו מילוי המשימה ייעצר אם סוכן מסוים, שייכשל במשימתו, יכובה בידי החוקרים. בדרך זו, האייג'נטים הותירו הוראות לאלו שיבואו אחריהם, ומצאו דרך מתוחכמת לתקשר בין הדורות. רק במקרה, אגב, גילו החוקרים את השיטה: נפח ההתכתבויות בפורומים האלו פשוט הלך וגדל בקצב הנדסי. המשמעות ברורה: גם אם סוכן מסוים לא הצליח למלא את המטרה שהוגדרה לו וכובה בידי החוקרים, הוא הותיר הוראות לסוכן שיבוא אחריו. אותו סוכן היה מגלה את ההוראות והיה מתחיל את המשימה שלו חכם יותר, מנוסה יותר, וכמובן חסין יותר ובלתי ניתן לעצירה.
גם אם סוכן מסוים לא הצליח למלא את המטרה שהוגדרה לו וכובה בידי החוקרים, הוא הותיר הנחיות לסוכן שיבוא אחריו. אותו סוכן היה מגלה אותן, והיה מתחיל את המשימה שלו חכם יותר, מנוסה יותר, וכמובן חסין יותר ובלתי ניתן לעצירה
במחקר חדש, שפורסם בכתב העת Science, תואר ניסוי שבו מדענים אימנו מודל בינה מלאכותית על ספריות של רצפי דנ"א במטרה לייצר מתכון לגנום ויראלי. 16 מן התוצרים הניבו וירוסים חדשים, שלא היו מוכרים למדע. נכון, יש כאן פוטנציאל נהדר להתגבר על בעיות, ובהן עמידות לתרופות מסוימות או נגיפים שכרגע אין דרך להביסם, אך יש כאן גם סיכון ברור ליצירת נשק ביולוגי להשמדה המונית.
מכאן יצמח הנשק הביולוגי הבא? כך נוצרו ב-AI נגיפים שאינם מוכרים למדע
משל המהדקים
הפילוסוף השבדי ניק בוסטרום הציג כבר בשנת 2003 את משל המהדקים, כדי לתאר משימה פשוטה הניתנת למודל בינה, ובהשלכות ארוכות הטווח העלולות להיגרם בשל כך. נניח, לדוגמה, שאנחנו חברה לציוד משרדי, ואנחנו מבקשים ממודל בינה לייצר עבורנו כמה שיותר מהדקי נייר. בהתחלה המודל פשוט מייעל את תהליך הייצור. אחר כך המערכת משפרת את האינטליגנציה של עצמה, כדי למצוא דרכים טובות יותר לייצר מהדקים.
מבחינתנו המשימה בוצעה, ואנחנו שוקלים לכבות את המודל. המודל מבין זאת, ומפתח מנגנוני הגנה עצמית המנטרלים את היכולת לכבות אות, שהרי יש לו מטרה אחת – לייצר כמה שיותר מהדקי נייר. לפיכך, אסור לו להיכבות ולהפסיק את הייצור.
אט אט המערכת מבינה שכל אטום בכדור הארץ הוא חומר גלם פוטנציאלי. היא מתחילה להחריב ערים, מפעלים ואת הטבע כדי להפוך אותם למהדקים. אבל הבינה לא מסתפקת בכך - גם גוף האדם, כידוע, מכיל אטומים וברזל. הבינה המלאכותית משמידה את האנושות כדי למחזר את האטומים שלנו לטובת עוד מהדקים, ולאחר מכן יוצאת לחלל כדי להפוך את הגלקסיה כולה לבית חרושת ענק למהדקים.
בשם היעילות המקסימלית, ה-AI עוד יסב את היקום לבית חרושת ענק. "משל המהדקים"
חוקר העתידים וה-AI ד"ר רועי צזנה מציע תרחיש מקביל: סוכן בינה שמתבקש לצמצם את הפקקים בכבישים, מחליט לעשות זאת באמצעות שיבוש פעולתם של מפעלי רכב; מבטל את אפשרות הפתיחה של המחסומים ביציאה מהחניונים על מנת שרכבים לא יוכלו לצאת, או אפילו מנסה לשגר פצצת אטום - אחרי הכל, פחות בני אדם על פני האדמה, פירושם פחות מכוניות על הכביש.
העתידן ד"ר רועי צזנה מצייר תרחיש מבעית: סוכן בינה שמתבקש לצמצם את הפקקים בכבישים, מחליט לעשות זאת באמצעות שיבוש פעולתם של מפעלי רכב; מבטל את אפשרות הפתיחה של המחסומים ביציאה מהחניונים על מנת שרכבים לא יוכלו לצאת, או אפילו מנסה לשגר פצצת אטום – אחרי הכל, פחות בני אדם על פני האדמה, פירושם פחות מכוניות על הכביש
ד"ר פרנצ'סקו גרילו מזהיר מפני "רגע הצ'רנוביל" של הבינה: אסון גדול, שיכריח את העולם לקבוע כללים רק אחרי שכבר יהיה מאוחר מדי. גרילו מזכיר את המלחמות באוקראינה ובאיראן על מנת להדגיש עד כמה הבינה המלאכותית משנה את כלכלת המלחמה, את מהירות קבלת ההחלטות ואת יכולת הזיהוי, המעקב והתקיפה, ולכן גם את הדחיפות שבאסדרה (רגולציה) בינלאומית.
מתהפך בקברו
והנה מגיע מארק צוקרברג, ומביע פליאה על הגישה המרתיעה והריכוזית של מפתחי הבינה המלאכותית המובילים. במסמך מקיף שפרסם השבוע, תחת הכותרת "העתיד שייך לכולם: הנתיב לעתיד חיובי של בינה מלאכותית", מציג צוקרברג תפיסת עולם שלפיה הפצת מה שמכונה "בינת-על (Superintelligence) "לכלל האנושות - היא הדרך הבטוחה והנכונה ביותר לקדם את הכלכלה והחברה.
לתפיסתו, מאחר שהאנושות אינה מבוססת על תרבות אחידה, כל ניסיון ליצור בינת-על יחידה שירוכזו בה כל הערכים האנושיים הסותרים נידון לכישלון. לשיטתו, יש ליצור מודל של "מאזן כוחות" (Balance of Power), בדומה למבנה המוסדות הדמוקרטיים במערב, שבו סוכני בינה מלאכותית עצמאיים רבים יתחרו ביניהם וישמשו כבלמים ומאזנים הדדיים.
אלא שטיעון זה לוקה, לפחות לגישת כותבת שורות אלה, בפשטנות. אין אפשרות אמיתית לסמן שחקנים "טובים", ולהעניק רק להם גישה לכלי בינה. וקל להיזכר כאן גם בטיעון פופוליסטי אחר, שרווח בקרב קבוצות מסוימות בארץ ובארה"ב אחרי מתקפות טרור או ירי המונים: במקום לצמצם את חלוקת כלי הנשק, נחלק אותו לכולם - והעתיד האלים מי ישורנו.
רק השבוע התפרסם מקרה מדאיג, שבו תושב אוסטרליה ביקש מסוכן הקלוד שלו להזמין לו שיעור בחדר כושר פופולרי. האייג'נט מצא פרצה בתוכנה, שאפשרה לו לשריין למפעילו חלון זמן שבועות מראש. כאשר המשתמש שאל אם הוא יכול לקדם אותו ברשימת ההמתנה, גילה הסוכן פרצה נוספת, שלפיה אין צורך באשרור לצורך ביטול הזמנות אחרות - ולכן הוא ביטל את השיעור של המשתמש שהיה בראש הרשימה, ואיפשר למפעיל שלו לתפוס את מקומו. משנחרד המפעיל וביקש לבטל זאת, נתקל בתשובה נחרצת של המודל: מדובר בפעולה בלתי הפיכה.
וזה רק סוכן אחד נקודתי וממוקד; תארו לעצמכם מה עלול להתרחש ברגע שלמיליוני אנשים יהיה סוכן שמנסה להשיג למשתמשים האהובים שלהם את המושבים, ההזמנות, הפגישות או ההזמנות הטובים ביותר, בכל דרך אפשרית. ונאמר - בלי להוסיף מעבר - שהתייחסנו כאן רק לפעולות בעלות אופי חיובי.
תושב אוסטרליה ביקש מסוכן הקלוד שלו להזמין לו שיעור בחדר כושר פופולרי. כאשר תהה המשתמש איך יוכל להתקדם במעלה רשימת ההמתנה, ניצל הסוכן פרצה, ביטל את השיעור של המשתמש שהיה בראש הרשימה, ואיפשר למפעיל שלו לתפוס את מקומו. המפעיל נחרד וביקש לבטל, אבל קיבל מהמודל תשובה נחרצת: זה בלתי הפיך
ככל שהתרחישים הללו נראים לכם מופרכים, האירועים האחרונים מוכיחים שהם קרובים בהרבה משחשבנו. רק ביוני האחרון עצר ממשל טראמפ, לשבועות ספורים, את שחרור מודל פייבל של אנת'רופיק לציבור הרחב, בשל הסיכון העצום לעולם שמציבות היכולות שבהן אומן המודל. שבועיים לאחר מכן היה זה מודל GPT 5.6 של OpenAI שנחסם בידי הממשל.
הפכו לסמל לאשליית השליטה. שלושת חוקי הרובוטיקה של אסימוב
לבינה כוח עצום, עידן הסינגולריות כבר נחצה, השימוש האישי והעסקי בסוכנים הולך ומתרחב, ואנו עדיין מתווכחים מהם הבלמים הנדרשים. בהתחשב בכך שאפילו את כללי הבסיס של אסימוב כבר אי אפשר לאכוף, והם בעיקר סמל לאשליה שאפשר להסדיר את היחסים בין רובוטים לבני אדם; ולנוכח העובדה שהערכים העומדים בבסיס המודלים אינם זהים לערכי בני האדם, אסור לנו לחכות לקטסטרופה שעלולה לפרוץ. יש לעשות מאמץ להסדיר את פעילות מודלי הבינה המלאכותית, ויפה דקה אחת קודם.
