על מה המדריך?
הביקוש לכוח מחשוב הגיע לשיא חדש. בעוד חברות הענק מתחרות על כל שבב Blackwell, מחירי השכרת ה-B200 משקפים שוק מתוח. האם אנחנו בדרך למחסור שיעצור את המהפכה?
חשבתי שזה רק עניין של תוכנה. שאלגוריתם חכם יותר יפתור את הבעיה. אבל השבוע גיליתי שהמחסום האמיתי של הבינה המלאכותית הוא לא קוד, אלא מתכת, סיליקון ומחיר שרק הולך ועולה.
למה זה קורה עכשיו?
הארכיטקטורה של Blackwell הבטיחה קפיצת מדרגה בביצועים, אך שרשרת האספקה של זיכרון ה-HBM (High Bandwidth Memory) נמצאת תחת לחץ כבד. יצרניות כמו SK Hynix פועלות כעת להרחבת הייצור ופיתוח טכנולוגיות חדשות כמו iHBM כדי לעמוד בביקוש. הפער בין הביקוש העצום לבין יכולת הייצור הוא שיוצר את התנודתיות במחירים שאנו רואים בשוק הענן.
הקולות מהשטח: אופטימיות מול ריכוזיות
יש הטוענים כי מדובר בשלב טבעי בהתפתחות הטכנולוגית – השקעה ראשונית כבדה שתניב פירות בהמשך. מנגד, מבקרים מזהירים מפני ריכוזיות יתר. עם זאת, מחקרים מהפדרל ריזרב בסן פרנסיסקו מצביעים על כך שהפצת טכנולוגיות AI עשויה דווקא להפחית את הריכוזיות בתעשייה לאורך זמן, ככל ששחקנים קטנים יותר יצליחו להיכנס לשוק.
מה עושים עכשיו?
עבור מפתחים ויזמים, האסטרטגיה חייבת להשתנות. במקום להסתמך רק על כוח מחשוב יקר לפי דרישה, מומלץ לבחון חוזים שמורים (Reserved) המציעים מחירים נמוכים משמעותית, להתמקד באופטימיזציה של קוד, ולשקול שימוש במודלים קטנים ויעילים יותר (SLMs) שאינם דורשים משאבי עתק.
מה חדש שכדאי להכיר
- • מעבר לאופטימיזציה של מודלים קטנים (SLMs) כדי לחסוך בעלויות מחשוב
- • שימוש בחוזים שמורים (Reserved) להוזלת עלויות השכרה
- • תעדוף משימות אימון בהתאם לזמינות ה-GPU בשוק