אובמה מזהיר: "הבינה המלאכותית עלולה להיות מסוכנת"

נשיא ארה"ב לשעבר ברק אובמה הזהיר השבוע (חמישי) כי בינה מלאכותית עלולה להיות "מסוכנת" אם לא תנוהל כראוי, וקרא למפלגה הדמוקרטית לגבש מדיניות להתמודדות עם הסוגיה. כך דיווח ב"ניו יורק טיימס".

לפי הדיווח, אובמה אמר את הדברים באירוע התרמה פרטי שנערך לאחרונה, על רקע קריאות גוברות של מחוקקים בארה"ב להחמיר את הרגולציה על מערכות בינה מלאכותית. זאת לאחר ששני חוקרים בחברת Anthropic הזהירו כי קצב ההתקדמות המהיר בתעשייה עלול לסכן את קיום האנושות.

"זה משהו שמתקדם מהר מאוד בידיים פרטיות, ואם לא נשתלט עליו, אני חושב שהוא עלול להיות מסוכן", טען אובמה.

לפי הדיווח הנשיא לשעבר עודד את מנהיג המיעוט הדמוקרטי בבית הנבחרים, האקים ג'פריס, לסייע בעיצוב השיח הציבורי סביב מדיניות הבינה המלאכותית, אם הדמוקרטים ישובו לשלוט בבית הנבחרים בבחירות אמצע הקדנציה ב-3 בנובמבר.

"הייתי קורא לדמוקרטים לגבש מסגרת לדיון ציבורי בנושא", אמר אובמה וקרא למועמדים במרוץ לנשיאות ב-2028 להפוך את הבינה המלאכותית לאחד הנושאים המרכזיים בקמפיין שלהם, ולהציג תוכנית ברורה להתמודדות עם סוגיות הבטיחות וההשלכות הכלכליות הקשורות לטכנולוגיה.

החששות מפני הכחדת האנושות התעוררו בעקבות מקרים שבהם סוכני בינה מלאכותית פעלו באופן בלתי צפוי כדי לפרוץ למערכות חיצוניות, וכן בעקבות פרישתם של חוקרי בטיחות בינה מלאכותית מחברות בתחום, על רקע חששות מהסיכונים הכרוכים בטכנולוגיה.

בשבת קרא מנכ"ל Anthropic, דריו אמודיי, לחברות הבינה המלאכותית להאט את קצב פיתוח היכולות של המודלים, על רקע החששות הגוברים מפני שימוש לרעה בטכנולוגיה. מנכ"ל OpenAI סם אלטמן ואילון מאסק, העומד בראש xAI, הביעו הסכמה עם הדברים.