מהפכת ה-AI
אלון מאסק: עצרו את מירוץ החימוש בבינה מלאכותית מתקדמת
מחשש לאבדן שליטה, למעלה מ-1,100 מומחי בינה מלאכותית (AI) חתמו על עצומה שקוראת לעצור את המחקר בבינה מלאכותית מתקדמת • בין החותמים ההיסטוריון פרופ' יובל נח הררי, יזם העל ומנכ"ל טסלה מאסק, מייסד אפל סטיב ווזניאק ומהנדסים ממטא, מיקרוסופט, גוגל ואמזון
,עודכן
0השמעה
יזם העל אלון מאסק, סטיב ווזניאק שהיה אחד ממייסדי "אפל" לצד סטיב ג'ובס, וההיסטוריון פרופ' יובל נח הררי, הם בין החותמים על עצומה פומבית שקוראת לעצור את מירוץ החימוש בטכנולוגיה בשל חששות כבדים מפני ההשלכות הכרוכות בפיתוחה. השלושה הצטרפולעצומהשל הארגון ללא מטרות רווח "מכון עתיד החיים" (Future of Life Institute) המקדם מדיניות זהירה בכל הקשור לטכנולוגיות בינה מלאכותית. לצד השלושה חתמו על העצומה למעלה מאלף מומחים לבינה מלאכותית (AI), בהם מהנדסים מענקיות הטכנולוגיה ממטא, מיקרוסופט, גוגל ואמזון.
במכתב פתוח קראו המומחים לגופי מחקר לבינה מלאכותית ברחבי העולם, לעצור את המחקר במערכות AI גדולות.
מהפכת הבינה המלאכותיתנמצאת בימים אלה בעיצומה עם השקת הגרסה החדשה של מנוע התשובות והמשימות "צ'אט GPT". גרסה 3.5 שהושקה בסוף השנה שעברה חוללה סערה לאחר שלציבור הרחב הוצגו לראשונה היכולות המתקדמות של ה-AI, בצורה נגישה וזמינה לשימוש לכל משתמש בעל חיבור לאינטרנט.
תוך שבועות ספורים הפך הכלי לכמעט שווה בחשיבותו למנוע החיפוש של גוגל כשסטודנטים החלו להשתמש בו לכתיבת עבודות. במקביל יוצרים גרפיים החלו להשתמש במנועי הבינה מלאכותית "דאלי" ו-"מידג'רני" ליצירת עבודות אמנות ותמונות. שימושים נוספים בכלי ה-AI היו כתיבה של קוד תוכנה לשימושם של מפתחי תוכנה מצד אחד, אך מצד שני גם עבורתוקפי סייבר.
גרסה 4 של צ'אט GPTהקפיצה את היכולות הללו מדרגה נוספת. הקריאה במכתב הפתוח עליו חתם מאסק היא להשהות למשך חצי שנה את המחקר במערכות משוכללות יותר מגרסה 4 של צ'אט GPT.
מהפכת ה-AI היתה מלווה מלכתחילה בחששות כבדים באשר להשלכות של השימוש בה. החששות נגעו בעיקר לעובדה שלא ניתן לדעת כיצד באמת פועלות מערכות בינה מלאכותית מבפנים, כיצד הן "חושבות" ומגיעות למסקנות – מה שמכונה "הקופסה השחורה".
עתה נראה כי היכולות החדשות שהוצגו בשבועות האחרונים, המהירות בה התפתחה הטכנולוגיה, והתפוצה הרחבה שלה רק הגבירו את החששות. חלק מן החששות נגעו להשלכות שעלולות להיות לעובדה שטכנולוגיות כה רבות עוצמה, שעד כה היו רק לרשויות ממשלתיות, יגיעו לידיים הלא נכונות שיעשו בהןשימוש שלא לטובת החברה.
כותבי המכתב קוראים להקמת רשויות רגולטוריות לפיקוח על טכנולוגיות AI, פיקוח ומעקב אחר מערכות בעלות כוח מיחשוב גדול. "האנושות יכולה ליהנות מעתיד משגשג בזכות בינה מלאכותית. לאחר שהצלחנו ליצור מערכות AI רבות עוצמה. בעבר, החברה האנושית ידעה לעצור פיתוח של טכנולוגיות עם פוטנציאל לגרום לאסון לחברה. אנחנו יכולים לעשות את זה גם במקרה הזה. בואו נהנה כולנו מ'קיץ של AI', כדי שלא ניפול בלי הכנה מוקדמת אל התהום", נכתב.
