מכתב של חוקרים ומומחים: "הבינה המלאכותית עלולה להביא לקץ האנושות"

עשרות מומחים, חוקרים ומדענים חתמו על מסמך שטוען כי הבינה המלאכותית עלולה להביא לסופה של האנושות. על אף האמירה הנחרצת של המומחים, חוקרים ומפתחים אחרים בתחום טוענים כי הדברים מנופחים מכל פרופורציה או פשוט שגויים.

"מאבק בסיכון של הכחדה אנושית כתוצאה מבינה מלאכותית, צריכה להיות בעדיפות גלובלית עליונה, לצד איומים חברתיים אחרים כמו מגיפות ומלחמה גרעינית", נכתב בהצהרה של "המרכז לבטיחות בבינה מלאכותית".

בין החותמים על המסמך הנפיץ, שהפך לדיון לוהט בקרב הקהילה המדעית והטכנולוגית, נמצאים חוקרים ומפתחים מתחום הבינה המלאכותית וכאלו שעובדים עבור כמה מהמותגים המובילים בתחום: סם אלטמן, בכיר בצ'אט ג'י.פי.טי; דמיס חסיב, בכיר בפרויקט "דיפ-מיינד" של גוגל; וודריו אמודאי מחברת אנטרופיק - הם בין החותמים על הקריאה.

ד"ר ג'פרי הינטון מבריטניה, פסיכולוג קוגנטיבי וחוקר מדעי המחשב וממובילי המאבק בבינה המלאכותית והשפעותיה, חתם גם הוא על המסמך. הינטון ידוע כאחד המתנגדים הגדולים ביותר של בינה מלאכותית ובעבר עזב את ארצות הברית לאחר תמיכה של ממשל רייגן בפיתוח בתחום המחשוב החכם לצרכים ביטחוניים.

הינטון נחשב אחד מאבות הבינה המלאכותית, בשל מחקרים פורצי דרך בתחום. חוקר נוסף שנחשב לאחד מאבות הבינה המלאכותית, פרופסור יהושע בנגיו מאוניברסיטת ניו יורק, חתם אף הוא על הקריאה של המרכז לבטיחות בבינה מלאכותית. בנגיו הביע בעבר דאגה מהאפשרות העתידית שפיתוח בתחום הבינה המלאכותית יפנה כנגד האנושות.

Reminder: most AI researchers think the notion of AI ending human civilization is baloney.

— Pedro Domingos (@pmddomingos)May 3, 2023

עם זאת, רבים אחרים בקהילה המדעית סבורים כי המכתב והבהלה סביב האפשרות שהבינה המלאכותית תביא להכחדת האנושות הם מוגזמים או אפילו שקריים. פרופסור יאן לקון, שמתואר לעיתים כ"סנדק של הבינה המלאכותית" טען ברשת החדשות הבריטית BBC, כי החששות שמובעים במכתב "מנופחים ולא מתבססים על מדע אלא על ספרות מדע בדיוני".

פדרו דומינגוס, פרופסור למדעי המחשב ומומחה בעל שם עולמי לבינה מלאכותית ולמידת מכונה, כתב בעמוד הטוויטר שלו: "תזכורת: רוב חוקרי מדעי המחשב סבורים שהרעיון שהבינה המלאכותית תסיים את הציביליזציה האנושית היא קשקוש מוחלט".