אנבידיה (Nvidia) הכריזה היום (ג', 4.2) כי פלטפורמת התקשורת Spectrum-X שפותחה בישראל ונמצאת בשימוש בשרתי על המשמשים לבינה מלאכותית משפרת את הביצועים של השרתים גם בתחום האחסון, עם שיפור משמעותי של עד 48% ברוחב הפס, שיפור שהושג והודגם באמצעות Israel-1, מחשב העל הישראלי שהוקם על ידי החברה בארץ.
הבינה המלאכותית ממשיכה להיות התחום הטכנולוגיה החם ביותר כרגע, וברוב המקרים כאשר אנו מדברים על מודל AI מסויים נדבר גם על כוח העיבוד של מערכות המחשב השונות ששימשו לאימון המודל.
במקרה של Israel-1 מדובר על מחשב על שיציע ביצועים של עד 8 אקסה-פלופ לכשתושלם הבניה שלו, זאת באמצעות שימוש במאיצי H100 8GB גרפיים של אנבידיה.
שיפורי ביצועים באחסון AI
מלבד הביצועים של מאיצי ה-AI השונים, יש עוד הרבה פרמטרים שונים המשפיעים על ביצועי המערכת כולה. למשל, ביצועי מערך האחסון של מערכות המחשוב עולה לא מעט בשלבי האימון של המודלים השונים, תהליך שיכול לקחת מספר ימים עד מספר חודשים לסיום בהתאם לכמות הפרמטרים של המודל.
דוגמה נוספת ניתן למצוא במהלך תהליך האימון נוצרות "נקודות שמירה" (checkpoint) מרובות שיכולות להכיל עד מספר טרה בייטים (TB) של מידע.
תהליך השמירה יכול להתבצע באופן תדיר כל מספר שעות, כאשר כל אירוע שמירה או שחזור של נקודת שמירה כזו יוצר עומס תעבורה גדול על אחסון המערכת.
לפי אנבידיה, בהשוואה לפרוטוקול הרשת הנפוץ RoCE v2, הנמצא כיום בשימוש ברוב מערכות ה-AI, הניתוב האדפטיבי של פלטפורמת Spectrum-X לצד טכנולוגיות נוספות, הצליח להציג שיפור של 20% עד 48% ברוחב הפס בקריאת הנתונים וב- 9% עד 41% ברוחב הפס בכתיבת הנתונים על גבי Israel-1, דבר שישפר את ביצועי ה-AI עם סיום משימות מהיר יותר במקרה של אימון ויציע זמני שיהוי נמוכים יותר במקרה של היסק (inference).
השימוש בפלטפורמת ה-Spectrum-X לתעבורת המידע במערכות AI והשיפור המושג באמצעות הטכנולוגיה של אנבידיה מזכיר לנו כי ישנה חשיבות לא מעטה לכלל החלקים במערכות המחשב המשמשות ל-AI מלבד המאיצים עצמם, תחום בו אנבידיה ממשיכה להוביל את השוק עם מאיצי ה-Blackwell מהדור האחרון.
חלק מהפוסטים באתר כוללים קישורי תכניות שותפים, עבורם נקבל עמלה עם ביצוע רכישה בפועל של מוצרים. עמלה זו לא מייקרת את העלות הסופית של המוצרים עבורכם.
הסקירות והתכנים המופיעים באתר מהווים המלצה בלבד, וכך יש להתייחס אליהם. כל המחירים המופיעים באתר נכונים ליום הפרסום בלבד והאחריות לקניית מוצר או שירות כזה או אחר מוטלת עליך בלבד – השימוש באתר בהתאם לתנאי השימוש והפרטיות.