בשנתיים האחרונות התרחשה אחת מריצות הזהב המהירות בתולדות התוכנה. כמעט כל חברה, גדולה כקטנה, מיהרה לשלב בינה מלאכותית יוצרת במוצריה, לא תמיד מתוך אסטרטגיה סדורה, אלא מתוך חשש עמוק להישאר מאחור. ה-FOMO, אותו "פחד מהחמצה", היה מנוע צמיחה אדיר וגם מנוע הוצאות אדיר לא פחות. עכשיו מגיע הבוקר שאחרי.
בעוד מחלקות הפיתוח רצות קדימה בהתלהבות, סמנכ"לי הכספים פותחים את חשבון הענן החודשי ומגלים הפתעה לא נעימה: עלויות עתק שאיש לא תקצב. כ-75% מהארגונים שהטמיעו סוכני AI חרגו מהתקציב, וחברת גרטנר צפתה שעד סוף 2026 ייזנחו לערך 30% מפרויקטיי ה- GenAI כבר בשלב הפיילוט. לא משום שהטכנולוגיה נכשלה, אלא משום שהכלכלה שלה לא הסתדרה.
למה זה כל כך יקר
כדי להבין את הפתרון צריך להבין את הבעיה. מודל AI Gen הוא כמו מנוע-על הצורך כמות עצומה של "דלק" חישובי בכל הפעלה. כל בקשה הנשלחת אליו וכל תשובה שהוא מחזיר נמדדת ביחידות שנקראות "טוקנים" ומתומחרות בהתאם וככל שהן ארוכות ומפורטות יותר, כך תופח החשבון. בקנה מידה גדול הפרוטות הופכות למיליונים; לא במקרה שיעור הוצאות הענן טיפס לאחרונה ב-25%, העלייה הראשונה מזה חמש שנים.
מ-FOMO ל-FinOps: להתפכח בלי לוותר
כאן חשוב לומר במפורש כי איש אינו מתכוון לוותר על ה-AI. הוא העתיד. השאלה אינה "האם" אלא "כיצד נכון", והתשובה מגיעה מדיסציפלינה שצוברת תאוצה: FinOps, ניהול פיננסי ממושמע של ההוצאה. זהו המודל הנכון למשימה הנכונה. לא כל משימה דורשת את המומחה היקר בעולם. משימות פשוטות, סיווג, תמצות או מענה שגרתי אפשר להפנות למודלים קטנים וזולים בהרבה. זה כמו לא לשלוח מנתח בכיר לחבוש פלסטר.
שימוש במודל גדול כדי ללמד מודל קטן שמתמחה במשימה בודדת, מוריד את עלות פי 12 עד 40 ומוזיל את האימון בכ-60% עד 90%. הפניה אוטומטית למודל הזול ביותר שעומד ברף האיכות הנדרש, חוסכת בין 40% ל-70% בעלויות. במקום פנייה אחת ענקית ויקרה למודל-על, הגישה המתקדמת מפרקת את המשימה לרצף "סוכנים" קטנים וממוקדים, שכל אחד מטפל בשלב אחד זול ומדויק יותר.
משתמשים רבים שואלים בדיוק את אותן שאלות. במקום לחשב כל תשובה מחדש, אפשר "לזכור" תשובות חוזרות ולהגישן שוב ולא לשלם פעמיים על אותו חישוב. בנוסף, קיצור ההנחיות למודל, מוריד את כמות הטקסט הנשלח פי שניים ועד 20, וחותך משמעותית בעלויות, ללא שינוי באיכות המוצר. בשרתי MCP יש לצמצם את כמות הטוקנים על ידי חשיפת כלים הכרחיים בלבד, ושימוש בסינון חכם מכיוון שאין צורך להביא את כל המידע בכל פניה, זאת על ידי חיפוש סמנטי מקדים למידע.
המנצחים של העשור הבא
המטוטלת נעה, אך אינה חוזרת אחורה. היא מתייצבת בנקודה בוגרת יותר. ה-FOMO היה נחוץ כדי לזוז מהר; ה-FinOps נחוץ כדי לשרוד. הפער בין החברות שיפרחו לבין אלה שייכשלו לא ייקבע בשאלה מי משתמש ב-AI, (כולן ישתמשו) אלא בשאלה מי שולט ב"כלכלת היחידה" שלו. כמה עולה כל פעולה, וכמה ערך היא מייצרת.
בזמן הקרוב, המנצחים לא יהיו רק מי שברשותם ה-AI החכם ביותר, אלא גם מי שמפעילים אותו בתבונה הכלכלית הגבוהה ביותר. זה מחייב שפה חדשה, משותפת, בין המו"פ לכספים. שיחה על ערך מול עלות - לא רק על חדשנות מול תזרים.
הכותב הוא ספי קיסרי, סמנכ"ל מחקר ופיתוח Priority
טעינו? נתקן! אם מצאתם טעות בכתבה, נשמח שתשתפו אותנו