נמצא פתרון? חשבון החשמל מאיים על ה-AI בקריסה

הבינה המלאכותית נמצאת בעיצומה של מהפכה, אך אחד המחירים הכבדים שהיא גובה הוא בצריכת החשמל.

לפי הפורום הכלכלי העולמי, צריכת האנרגיה של מערכות AI צפויה לעלות בקצב של 50% בשנה עד 2030. "זה לא בר קיימא", מזהיר אנדרו וויי, בכיר לשעבר באפל ובמטא וכיום ראש תחום החומרה בחברת Cloudflare. "אנחנו צריכים פתרונות טכנולוגיים, רגולטוריים וכל מה שביניהם".

אכן, ברחבי התעשייה מתנהל מרוץ ליצירת שבבים חדשים ויעילים יותר אנרגטית, בעיקר עבור משימת ה"אינפרנס" (Inference), כלומר: הפקת תגובות ממודלים של בינה מלאכותית. חברת Positron, סטארטאפ צעיר שהוקם ב-2023, מפתחת שבב ייעודי למשימה הזו, שכבר נבדק ב־Cloudflare וקיבל השקעה נוספת של 51.6 מיליון דולר.

לדבריהם, השבבים החדשים צורכים הרבה פחות חשמל מהפתרונות של NVIDIA, שמובילה כיום את התחום. עבור חברות ענן מדובר בפוטנציאל לחיסכון של עשרות מיליארדי דולרים - ואולי גם בהפחתה משמעותית של פליטת הפחמן.

תחרות על כל וואט

שוק שבבי ה-AI נמצא בעיצומה של תחרות עזה: עשרות סטארטאפים נאבקים לבנות את שבב האינפרנס האולטימטיבי, לצד ענקיות כמו גוגל, אמזון ומיקרוסופט, שמפתחות שבבים פנימיים משלהן לשימוש ולמכירה בענן.

המרוץ הזה נובע לא רק מהצורך בהתייעלות, אלא גם מהרצון להיחלץ מה"תלות ב-NVIDIA", כלומר, הרווחים הגבוהים שהיא גובה על החומרה שלה. גם ב-NVIDIA מודעים לכך, ומדגישים כי הדור החדש של המערכות שלה, "Blackwell", יעיל פי 25-30 מהדור הקודם במשימות אינפרנס מבחינת יחס בין הספק לחשמל.

ממציאים את הגלגל

בכדי להתמודד עם הדרישות ההולכות וגוברות של מערכות בינה מלאכותית, חברות רבות בוחרות לא להסתפק בשיפורים לשבבים קיימים - אלא לתכנן שבבים חדשים לגמרי, שנבנו מראש לצרכים של AI. כך עושה למשל חברת Groq, שהוקמה על ידי ג'ונתן רוס, מי שעמד בעבר בראש תחום שבבי ה-AI בגוגל.

לטענתו, שבבי NVIDIA נבנו במקור לשימושים גרפיים, ו"רק" הותאמו בהמשך לשימושי בינה מלאכותית - מה שפוגע ביעילות שלהם. לעומת זאת, השבבים ש-Groq פיתחה נבנו מהיסוד במיוחד למשימות אינפרנס של מודלים, ומספקים לדבריו ביצועים מהירים בהרבה, תוך חיסכון ניכר בצריכת החשמל.

היתרון של Groq נעוץ כביכול בתכנון ייחודי הכולל זיכרון מובנה בתוך השבב, מה שמאיץ את פעולת העיבוד. מומחים בתחום סבורים שזו גישה מבטיחה, גם אם היא לא תמיד מתאימה לכל משימה או יישום.

חברת Positron, לעומת זאת, בחרה ללכת בכיוון אחר: שבב פשוט יותר, ממוקד יותר, עם פחות פונקציות - אך כזה שמבצע את משימותיו במהירות גבוהה בהרבה. החברה כבר סיפקה את השבבים שלה לחברת Cloudflare, והם צפויים להתחרות בדור הבא של NVIDIA, הקרוי Vera Rubin. מנכ"ל החברה, מיטש אגרוול, טוען כי השבבים שלהם מעניקים פי 2-3 יותר ביצועים לכל דולר, ופי 3-6 יותר ביצועים לכל יחידת אנרגיה.

ב-NVIDIA לא ממהרים להתרשם, ומזכירים כי לקוחות שוקלים שיקולים נוספים מעבר ליעילות אנרגטית, כמו: זמינות, גמישות ותאימות למודלים משתנים.

האתגר האמיתי: אנרגיה

Cloudflare כבר שילבה את שבבי Positron בניסויים, ואם אכן יספקו את הביצועים שהובטחו, החברה תשקול הרחבת השימוש בהם. "אם הם יעמדו במה שהבטיחו - נפתח את הברז", אמר סגן הנשיא לענייני חומרה בחברת Cloudflare. לדבריו, אם המתחרות החדשות יעמדו בציפיות, הן עשויות לשבור את השליטה של NVIDIA ולתרום לצמצום קצב צריכת האנרגיה הגוברת של התחום.

אלא שגם אם השבבים החדשים יהיו יעילים פי כמה, לא בטוח שזה יספיק. לפי גוגל, הביקוש רק צפוי לעלות, בעיקר בשל כניסת הציבור הרחב ועסקים רבים לשימוש במודלים מתקדמים. לכן, בגוגל כבר בוחנים מקורות אנרגיה חדשים כמו אנרגיה גרעינית ואפילו היתוך גרעיני, זאת במטרה לעמוד בעומס.

המסקנה ברורה: שבבים יעילים עשויים להפחית את צריכת האנרגיה של כל חברה בנפרד, אבל בקצב הצמיחה הנוכחי, תעשיית הבינה המלאכותית כולה תמשיך לגדול ולצרוך יותר ויותר חשמל. לפי דוח של Anthropic, ייתכן שבעתיד הקרוב האתגר הגדול ביותר לא יהיה חומרה או תוכנה - אלא פשוט אספקת האנרגיה שתוכל להחזיק את כל זה.