ראשי מעבדות הבינה המלאכותית המובילות בעולם, לצד מדענים ובכירי ממשל לשעבר, חתמו על מכתב פומבי דרמטי המופנה לקונגרס האמריקני. הדרישה: חקיקת בזק שתחייב פיקוח הדוק על חברות המוכרות DNA סינתטי, מחשש שארגוני טרור ושחקנים זדוניים ינצלו מודלי שפה מתקדמים כדי "להנדס" מגפות עולמיות ולעקוף את מערכות האבטחה הקיימות.
המכתב, שאורגן על ידי מכוני המחקר Institute for Progress ו-Foundation for American Innovation, מאחד תחת חזית אחת את המתחרים המרים ביותר של עולם הטכנולוגיה: סם אלטמן (OpenAI), דמיס חסביס (Google DeepMind), דאריו אמודיי (אנתרופיק) ומוסטפא סולימאן (Microsoft AI). החותמים מזהירים כי קצב הפיתוח המטורף של ה-AI עלול למחוק בקרוב את "מחסום הידע" ההיסטורי, שמנע עד היום מגורמים קיצוניים להשיג נשק ביולוגי.
המדפסת הביתית של הווירוסים
כדי להבין את גודל האיום, צריך להבין כיצד פועל שוק הביולוגיה הסינתטית כיום. תהליך סינתזה של DNA, שהיה בעבר מורכב ויקר, מבוצע כיום בצורה אוטומטית לחלוטין על ידי עשרות חברות מסחריות המדפיסות ומוכרות רצפים גנטיים מותאמים אישית למטרות מחקר ופיתוח תרופות. בעוד שחלק מהספקיות מוכרות אך ורק למוסדות אקדמיים וחוקרים מורשים, השוק פרוץ לחלוטין ואין חובה חוקית גלובלית לבדוק את זהות הלקוח או את מהות הרצף הגנטי המוזמן.
נציין כי כבר ב-2017 חוקרים קנדים הצליחו לשחזר את נגיף ההורספוקס שנכחד, באמצעות DNA שהוזמן פשוט בדואר בעלות של 100 אלף דולר בלבד. המומחים מזהירים כי אותה מתודולוגיה בדיוק יכולה לשמש כעת לייצור של אבעבועות שחורות - אחד הווירוסים הקטלניים בהיסטוריה.
השילוב בין מודלי שפה גדולים (LLMs) לביולוגיה סינתטית מייצר סכנה מסוג חדש. ד"ר דיוויד רלמן, מיקרוביולוג ומומחה לאבטחה ביולוגית מאוניברסיטת סטנפורד שחתם על המכתב, מסביר את השורה התחתונה: "כלי AI מאפשרים למשתמש לזהות במהירות שיא אילו ספקים בשוק לא מבצעים סינון של ההזמנות. חמור מכך - אם תנחה את המודל בצורה נכונה, הוא יסביר לך בדיוק איך לשנות את הרצף הגנטי שאתה מנסה להזמין, כך שמערכות הסינון של החברות המפוקחות לא יצליחו לזהות שמדובר בחומר מסוכן".
החשש לא תיאורטי. חוקרים במייקרוסופט פרסמו לאחרונה מחקר שהוכיח כי כלי AI לעיצוב חלבונים הצליחו לייצר רצפים גנטיים מסוכנים לחלוטין - שהחליקו "מתחת לרדאר" של תוכנות האבטחה המתקדמות ביותר של חברות הביולוגיה, פשוט על ידי שינוי המבנה של החלבון תוך שמירה על רעילותו.
רגולציה או אחריות תאגידית?
חברות מובילות בתחום הסינתזה הגנטית, כמו Twist Bioscience ו-Ansa Biotechnologies, שותפות גם הן ליוזמה ותומכות בחקיקה דו-מפלגתית שכבר מונחת על שולחן הסנאט האמריקני, שתחייב כל ספק בארה"ב לבצע סינון לקוחות ורצפים חשודים.
עם זאת, המומחים מדגישים כי רגולציה על חברות ה-DNA היא רק חצי מהפתרון. השלב הבא והקריטי ביותר יצטרך להגיע מצד מעבדות ה-AI עצמן. הן יידרשו להטמיע חסמים מובנים ובלתי ניתנים לעקיפה בתוך המודלים שלהן, שיימנעו מהם לספק "מתכונים" או עצות לעקיפת מערכות ביולוגיות.
"צריך שיהיה קשה מאוד, אם לא בלתי אפשרי, לבקש ממודל לעזור לך לעשות משהו מסוכן באופן מיידי", מסכם ג'ף רלסטון, שותף בקרן Safe AI Fund.
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו