יזם העל אלון מאסק, סטיב ווזניאק שהיה אחד ממייסדי "אפל" לצד סטיב ג'ובס, וההיסטוריון פרופ' יובל נח הררי, הם בין החותמים על עצומה פומבית שקוראת לעצור את מירוץ החימוש בטכנולוגיה בשל חששות כבדים מפני ההשלכות הכרוכות בפיתוחה. השלושה הצטרפו לעצומה של הארגון ללא מטרות רווח "מכון עתיד החיים" (Future of Life Institute) המקדם מדיניות זהירה בכל הקשור לטכנולוגיות בינה מלאכותית. לצד השלושה חתמו על העצומה למעלה מאלף מומחים לבינה מלאכותית (AI), בהם מהנדסים מענקיות הטכנולוגיה ממטא, מיקרוסופט, גוגל ואמזון.
במכתב פתוח קראו המומחים לגופי מחקר לבינה מלאכותית ברחבי העולם, לעצור את המחקר במערכות AI גדולות.
מהפכת הבינה המלאכותית נמצאת בימים אלה בעיצומה עם השקת הגרסה החדשה של מנוע התשובות והמשימות "צ'אט GPT". גרסה 3.5 שהושקה בסוף השנה שעברה חוללה סערה לאחר שלציבור הרחב הוצגו לראשונה היכולות המתקדמות של ה-AI, בצורה נגישה וזמינה לשימוש לכל משתמש בעל חיבור לאינטרנט.
תוך שבועות ספורים הפך הכלי לכמעט שווה בחשיבותו למנוע החיפוש של גוגל כשסטודנטים החלו להשתמש בו לכתיבת עבודות. במקביל יוצרים גרפיים החלו להשתמש במנועי הבינה מלאכותית "דאלי" ו-"מידג'רני" ליצירת עבודות אמנות ותמונות. שימושים נוספים בכלי ה-AI היו כתיבה של קוד תוכנה לשימושם של מפתחי תוכנה מצד אחד, אך מצד שני גם עבור תוקפי סייבר.
גרסה 4 של צ'אט GPT הקפיצה את היכולות הללו מדרגה נוספת. הקריאה במכתב הפתוח עליו חתם מאסק היא להשהות למשך חצי שנה את המחקר במערכות משוכללות יותר מגרסה 4 של צ'אט GPT.
מהפכת ה-AI היתה מלווה מלכתחילה בחששות כבדים באשר להשלכות של השימוש בה. החששות נגעו בעיקר לעובדה שלא ניתן לדעת כיצד באמת פועלות מערכות בינה מלאכותית מבפנים, כיצד הן "חושבות" ומגיעות למסקנות – מה שמכונה "הקופסה השחורה".
עתה נראה כי היכולות החדשות שהוצגו בשבועות האחרונים, המהירות בה התפתחה הטכנולוגיה, והתפוצה הרחבה שלה רק הגבירו את החששות. חלק מן החששות נגעו להשלכות שעלולות להיות לעובדה שטכנולוגיות כה רבות עוצמה, שעד כה היו רק לרשויות ממשלתיות, יגיעו לידיים הלא נכונות שיעשו בהן שימוש שלא לטובת החברה.
כותבי המכתב קוראים להקמת רשויות רגולטוריות לפיקוח על טכנולוגיות AI, פיקוח ומעקב אחר מערכות בעלות כוח מיחשוב גדול. "האנושות יכולה ליהנות מעתיד משגשג בזכות בינה מלאכותית. לאחר שהצלחנו ליצור מערכות AI רבות עוצמה. בעבר, החברה האנושית ידעה לעצור פיתוח של טכנולוגיות עם פוטנציאל לגרום לאסון לחברה. אנחנו יכולים לעשות את זה גם במקרה הזה. בואו נהנה כולנו מ'קיץ של AI', כדי שלא ניפול בלי הכנה מוקדמת אל התהום", נכתב.
