⭐ נקודות עיקריות
- אנבידיה מרחיבה את תוכנית NVLink Fusion ומציגה את טכנולוגיית הזיכרון הייעודית NVHBM.
- לדברי החברה, הרכיב מספק שיפור של עד 30% ברוחב הפס וחיסכון של 15% בצריכת החשמל מול HBM4e.
- העברת בקר הזיכרון אל שכבת הבסיס מפנה עד 30% משטח הסיליקון הראשי לטובת יחידות עיבוד.
- במרכז נתונים בהספק 1GW, החיסכון בצריכת הזיכרון עשוי לאפשר הוספה של עד 15,000 מאיצים
אנבידיה (Nvidia) הכריזה על NVHBM, טכנולוגיית זיכרון ייעודית בעלת רוחב פס גבוה המיועדת למאיצי בינה מלאכותית מותאמים אישית (XPUs).
הטכנולוגיה החדשה משלבת שיפור של עד 30% ברוחב הפס לצד הפחתה של 15% בצריכת החשמל לעומת תקן HBM4e, מה שמאפשר להאיץ את קצב יצירת הטוקנים בהרצת מודלי שפה גדולים.
ההכרזה נועדה לתת מענה לצוואר הבקבוק המרכזי בעיבוד בינה מלאכותית, שבו המעבדים תלויים באספקת נתונים רציפה ומהירה מזיכרון המערכת.
הכירו את ה-NVHBM
טכנולוגיית NVHBM פותחה כרכיב תשתית מותאם עבור שותפות פלטפורמת NVLink Fusion של החברה, במטרה לקצר את זמני הפיתוח והאימות מול יצרניות הזיכרון המובילות.
המערכת לא מחליפה את תקן ה-HBM הכללי, אלא מספקת שכבת בסיס מותאמת (Custom Base Die) המאפשרת לחבר מאיצי עיבוד ייעודיים ישירות אל מארג התקשורת של שרתי החברה.
ארכיטקטורה וטכנולוגיה
בארכיטקטורת HBM מסורתית, בקר הזיכרון ממוקם על גבי שבב העיבוד הראשי ותופס שטח סיליקון יקר. NVHBM משנה תכנון זה ומעביר את בקר הזיכרון ישירות אל תוך שכבת הבסיס של ערימת הזיכרון.
בנוסף, הטכנולוגיה כוללת ממשק פיזי (PHY) ייעודי המקטין את שטח הממשק ורכיבי התמיכה בעד 67% בהשוואה לתקן HBM4e.
לדברי החברה, פינוי השטח מאפשר להגדיל את שטח יחידות העיבוד על השבב המרכזי בעד 30% תחת אותה מעטפת גודל.
ביצועים
לפי אנבידיה, טכנולוגיית NVHBM מספקת רוחב פס זיכרון הגבוה בעד 30% לכל ערימת זיכרון בהשוואה לתקן HBM4e הסטנדרטי.
תוספת רוחב הפס מסייעת בהאצת קריאת נתוני זיכרון מטמון (KV Cache) ומפחיתה את זמני ההמתנה של יחידות החישוב.
השילוב בין תוספת רוחב הפס, פינוי שטח הסיליקון והחיסכון באנרגיה מניב לדברי החברה שיפור כולל של עד 30% בביצועי הקצה של המאיץ ברמת המסד.
צריכת חשמל וקירור
אנבידיה מציינת כי NVHBM צורכת 15% פחות אנרגיה בהשוואה לרכיבי HBM4e רגילים, מה שמקל על מערכות הקירור ומפנה תקציב חשמל לחישוב נוסף.
לדברי החברה, במרכז נתונים בהספק של 1GW המשתמש במאיצים של 2000W, החיסכון המצטבר בצריכת הזיכרון עשוי לאפשר הוספה של עד 15,000 מאיצים פעילים.
מה הלאה
טכנולוגיית NVHBM תהיה זמינה לשותפות תוכנית NVLink Fusion של Nvidia, כאשר הייצור יתבצע בשיתוף יצרניות הזיכרון המובילות המאמתות את התכנון עבור מאיצי ענן מהדור הבא.
