אנבידיה (nvidia) חשפה אמש (ב’, 18.3) במהלך כנס ה-GTC 2024 שנערך בארה”ב את ארכיטקטורת Blackwell (“בלאקוול”), הדור הבא של החברה בתחום ה-AI, המציעה שיפור ביצועים של עד פי 30 לצד יעילות אנרגטית טובה פי 25 לעומת מאיצי ה-H100 הקודמים שלה, שהתבססו על ארכיטקטורת ה-Hopper.
ארכיטקטורת Blackwell החדשה, הקרויה על שמו של המתמטיקאי דייויד הרולד בלאקוול, מחליפה את ארכיטקטורת ה-Hopper שהוצגה בשנת 2022 ושימשה ליצירת מאיץ ה-H100 של אנבידיה, שהפך להיות לאחד ממנועי הצמיחה הגדולים ביותר של החברה בעידן ה-AI הנוכחי, בו מרוץ החימוש בין חברות ה-AI השונות הזניק את שוויה ליותר מ-2.2 טריליון דולר לאור השימוש הנרחב של התעשיה בשבבי ה-H100.
עכשיו אנבידיה מציגה את מאיץ ה-B200, פתרון הדור הבא לעידן ה-AI המתפתח, מאיץ גרפי הכולל 208 מיליארד טרנזיסטורים בהשוואה ל-80 מיליארד “בלבד” בדור הקודם, זאת על ידי חיבור שתי ליבות GPU המגיעות בייצור N4P, גרסה מותאמת של ייצור 4nm של TSMC.
בין שתי ליבות ה-GPU קיימת קישוריות 10TB/s סופר מהירה, ההופכת את שתי הליבות למאיץ אחד המיועד לשימוש עם מודלי MoE (ר”ת Mixture-of-Experts) רב שימושיים.
המאיץ מגיע עם ליבות Tensor חדשות, אשר בשימוש יחד עם טכנולוגיית ה-TensorRT-LLM מאפשרות להוריד את הצריכה (והעלות) של המאיץ בעד פי 25 לעומת מאיצי ה-H100 מהדור הקודם של החברה.
את המאיץ החדש יהיה ניתן למצוא ב”סופר שבב” GB200, הכולל צמד מאיצי B200 ומעבד Grace בודד, יחד עם 384GB זיכרון HBM3e למאיץ הגרפי ועד 480GB זיכרון LPDDR5X למעבד, על מנת לספק ביצועים של 40PFLOPS ב-FP4.
ה”סופר שבב” מציע שיפור של עד פי 30 בביצועים לעומת ה-H100 בעבור היסק (Inference) במודלי שפה גדולים (LLM), מהירות אימון מודלים הגבוהה פי 4 וצריכה חשמלית נמוכה יותר בעד פי 25.
ה”סופר שבב” ישולב בשרת ה-GB200 NVL72 של אנבידיה, הכולל 72 שבבי B200 לצד 36 מעבדי Grace המחוברים ביניהם עם קישורי NVLink מהדור החמישי של החברה, המציע קישוריות מהירה של 1.8TB/s.
השרת משתמש בקירור נוזלי ומציע ביצועים של עד 720PFLOPs באימון מודלי AI ועד 1440PFLOPs בהיסקים, עם שימוש בדור הבא של פתרונות התקשורת של אנבידיה, ה-NVIDIA Quantum-X800 InfiniBand ו-Spectrum-X800 Ethernet, שפותחו במעבדות החברה בארץ, על מנת לקשר בין עד 576 מאיצי B200 יחדיו.
ג’נסן הואנג, מייסד ומנכ”ל NVIDIA, אמר:
במשך שלושה עשורים הובלנו את פיתוח יכולות המחשוב המואץ, במטרה להניע פריצות דרך כמו למידה עמוקה ובינה מלאכותית. בינה מלאכותית יוצרת היא הטכנולוגיה המגדירה את זמננו. מעבדי ה-Blackwell הם המנוע שמניע את המהפכה התעשייתית הזו. בעבודה משותפת עם הארגונים הדינמיים ביותר בעולם, נממש את ההבטחה של הבינה המלאכותית בכל תעשייה.
שרתי העל החדשים, שיתבססו על פלטפורמת ה-Blackwell החדשה של אנבידיה, צפויים להיות זמינים במהלך השנה ממגוון רחב של חברות, בהן AWS, Google Cloud, Microsoft Azure ו-Oracle, יחד עם חברות נוספות המשתמשות בשירותי הענן של אנבידיה.
עוקבים? כל החדשות מגאדג'טי
חלק מהפוסטים באתר כוללים קישורי תכניות שותפים, עבורם נקבל עמלה עם ביצוע רכישה בפועל של מוצרים. עמלה זו לא מייקרת את העלות הסופית של המוצרים עבורכם.
הסקירות והתכנים המופיעים באתר מהווים המלצה בלבד, וכך יש להתייחס אליהם. כל המחירים המופיעים באתר נכונים ליום הפרסום בלבד והאחריות לקניית מוצר או שירות כזה או אחר מוטלת עליך בלבד – השימוש באתר בהתאם לתנאי השימוש והפרטיות.