יצרנית הזכרונות מיקרון (Micron) הציגה את שבב זיכרון ה-HBM3E החדש שלה בעל 12 שכבות, המגיע בנפח של 36GB הגדול ב-50% מהדור הקודם ומציע רוחב פס גבוה במיוחד של יותר מ-1.2TB/s. הזיכרון מיועד לשימוש בתחום הבינה המלאכותית ומאפשר להריץ מודלים גדולים ממאיץ גרפי בודד.
זכרונות HBM נחשבים לפתרון המקביל לטכנולוגיית ה-GDDR הנמצאת בשימוש בכרטיסי מסך ומאיצים גרפיים, בהם אלו המשמשים בתחום הבינה המלאכותית היום, כאשר HBM מציע רוחב פס גדול יותר, אך גם מגיע בתג מחיר יקר יותר לעומת שבבי GDDR, במיוחד לאור אופן השימוש בהם, המחייב הרכבה צמודה לשבב שיעשה שימוש בזיכרון.
שבבי ה-HBM3E החדשים מחליפים את שבבי ה-HBM3 Gen2 הקודמים של החברה, כאשר הם מגיעים במבנה חדש בעל 12 שכבות (12-high stack) המאפשר לשבבים להציע נפח אחסון גדול יותר ב-50% של 36GB לעומת 24GB בדור הקודם, תוך כדי שהם שומרים על מהירות העברת מידע של 9.2Gb/s לפין ורוחב פס כללי של יותר מ-1.2TB/s, בדומה ל-HBM3 Gen2 אך גבוה ב-50% לעומת שבבי ה-HBM3 המקוריים של החברה.
השבבים החדשים נועדו לתת מענה במיוחד בעבור שימושי הבינה המלאכותית של היום, כאשר הגדלת נפח השבב ב-50% מאפשרת להפעיל מודלי AI גדולים דוגמת Llama 2-70B על מאיץ גרפי בודד וללא צורך בחלוקת המשימה בין מספר מאיצים שונים, דבר המשפר גם את הביצועים על ידי הורדת התקשורת בין מאיצים גרפיים במצבים בהם גודל המודל עולה על האחסון בכל אחד מהם ומפנה משאבים נוספים גם מהמעבד עצמו.
עליית תחום הבינה המלאכותית הגנרטיבית הביאה עימה צורך גובר בשרתים ומאיצים גרפיים המסוגלים להפעיל בצורה יעילה ומהירה את מודלי ה-AI השונים, תחום המשתמש בזכרונות HBM מהירים, בהם גרסת ה-HBM3E החדשה של מיקרון.
עבור השבב החדש החברה מגדילה את שיתוף הפעולה שלה עם TSMC כחלק מה-3DFabric Alliance, שנועד לשתף את שיתוף הפעולה בין היצרנים על מנת לעמוד בדרישות הגבוהות של מערכות ה-AI כיום.
חלק מהפוסטים באתר כוללים קישורי תכניות שותפים, עבורם נקבל עמלה עם ביצוע רכישה בפועל של מוצרים. עמלה זו לא מייקרת את העלות הסופית של המוצרים עבורכם.
הסקירות והתכנים המופיעים באתר מהווים המלצה בלבד, וכך יש להתייחס אליהם. כל המחירים המופיעים באתר נכונים ליום הפרסום בלבד והאחריות לקניית מוצר או שירות כזה או אחר מוטלת עליך בלבד – השימוש באתר בהתאם לתנאי השימוש והפרטיות.