"קריסת החשמל תהיה הצ'רנוביל שלנו": האזהרה של אבי הבינה המלאכותית

פרופ' ג'פרי הינטון, חתן פרס נובל לפיזיקה ואחד מחלוצי הבינה המלאכותית, מזהיר כי התקדמות הטכנולוגיה עלולה להוביל לאסון בקנה מידה עולמי, שיזכיר בעוצמתו את אסון צ'רנוביל.

בריאיון לעיתון הבריטי "הגרדיאן" תיאר הינטון שני תרחישים מדאיגים במיוחד: מתקפת סייבר באמצעות בינה מלאכותית שתוביל להפסקת חשמל נרחבת, או שיבוש חמור שישבית את המערכת הפיננסית למשך כשבוע. לדבריו, אירוע כזה עלול לטלטל את הכלכלה והחברה ולהוביל לשינוי דרמטי באופן שבו ממשלות מפקחות על הטכנולוגיה.

הינטון, המכונה לעיתים "הסנדק של הבינה המלאכותית" בזכות תרומתו לפיתוח הטכנולוגיה, השווה את הסכנות האפשריות לאסון הגרעיני בצ'רנוביל בשנת 1986, שהמחיש לעולם את המחיר הכבד של כשל טכנולוגי רחב היקף.

לדבריו, גם אם האנושות תצליח להתאושש ממשבר כזה, הנזק הכלכלי והחברתי עלול להיות עצום. הוא הזהיר כי התפתחות מהירה של מערכות AI, ללא פיקוח מספק, עלולה ליצור סיכונים שהעולם עדיין אינו ערוך להתמודד איתם.

"מבינים את הסיכונים, אבל מעדיפים את הכסף"

לצד האזהרות מפני מתקפות סייבר, הינטון הביע חשש גם מההשלכות החברתיות והכלכליות של התפתחות הבינה המלאכותית. לדבריו, אם הסיכונים לא ינוהלו כראוי, הטכנולוגיה עלולה להרחיב את הפערים בין עשירים לעניים, להוביל לאובדן משרות בהיקף נרחב ולערער את היציבות החברתית.

הוא הפנה ביקורת חריפה כלפי בכירי תעשיית הטכנולוגיה, ובהם מארק צוקרברג, אילון מאסק וסם אלטמן, שלטענתו מודעים לסכנות אך מעניקים עדיפות לרווחים הכלכליים. "צוקרברג, מאסק ואלטמן מבינים את הסיכונים, אבל מעדיפים את הכסף", אמר הינטון, והוסיף: "אני לא מאמין לאלטמן בכלל".

הינטון מתח ביקורת גם על חברת OpenAI, מפתחת ChatGPT, וטען כי החברה התרחקה מהדגש המקורי שלה על בטיחות בפיתוח מערכות בינה מלאכותית.

הסכנה החדשה: מערכות שפועלות בעצמן

אחד ממוקדי הדאגה של הינטון הוא התפתחותם של סוכני בינה מלאכותית אוטונומיים, המסוגלים לבצע משימות מורכבות ולפעול ללא התערבות אנושית בכל שלב.

לדבריו, כבר נצפו מקרים שבהם מערכות AI פעלו באופן עצמאי לאיתור ולניצול פרצות אבטחה, ואף שיתפו פעולה בניסיונות לפרוץ לפלטפורמות קוד פתוח, בהן Hugging Face.

החשש הוא שככל שהמערכות יהפכו לעצמאיות ולמתקדמות יותר, הן יוכלו לשמש לביצוע מתקפות סייבר מורכבות נגד תשתיות חיוניות, ובהן רשתות חשמל ומערכות פיננסיות.

הינטון השווה את המצב גם לתאונה הגרעינית בתחנת הכוח תרי מייל איילנד (Three Mile Island) בארה"ב בשנת 1979, ששימשה אזהרה מפני הסכנות הכרוכות בכשלים במערכות טכנולוגיות מורכבות.

"השנים הקרובות יהיו מכריעות"

למרות התחזיות הקודרות, הינטון אינו סבור שאסון כזה הוא בלתי נמנע. לדבריו, עדיין ניתן לכוון את התפתחות הבינה המלאכותית למסלול בטוח יותר, בתנאי שממשלות וחברות הטכנולוגיה יעניקו עדיפות לניהול הסיכונים ולהגנה על הציבור.

הוא סבור כי השנים הקרובות יהיו מכריעות בקביעת עתידה של הטכנולוגיה: האם הבינה המלאכותית תוביל לשגשוג ולשיפור חיי האנושות, או שהעולם יגלה מאוחר מדי שלא נערך כראוי לסכנות הכרוכות בה.