אינטל הכריזה על Gaudi 3 – מאיץ בינה מלאכותית טוב יותר מה-NVIDIA H100

מאיץ ה-Gaudi 3 (מקור אינטל) מאיץ ה-Gaudi 3 (מקור אינטל)

במהלך אירוע ה-Intel Vision 2024 חשפה אינטל (Intel) את שבב ה-Gaudi 3, מאיץ בינה מלאכותית יעודי שנועד להתחרות במאיץ ה-NVIDIA H100 של אנבידיה השולט כיום למעשה בשוק שרתי ה-AI. אינטל מבטיחה כי המאיץ החדש זוכה לשיפור ביצועים ממוצע של 50% בהסקה (inference) ולחיסכון של 40% בצריכה החשמלית לעומת ה-H100.

שבב ה-Gaudi 3 מגיע כחלק מהניסיון של אינטל לנגוס בנתח השוק העצום שהצליחה לתפוס לעצמה אנבידיה (nvidia) כחלק ממירוץ החימוש הגדול בתחום הבינה המלאכותית, שהוביל ליצירה של מגוון עצום של מודלי AI שונים, אך בו בזמן הגדיל את כוחה של אנבידה בתחום ה-AI, דבר שהוליד את המירוץ הבא בתחום ה-AI – החומרה.

מאיץ ה-Gaudi 3 של אינטל מציג שיפור של עד פי 4 בחישובי AI ב-BF16 בהשוואה לדור הקודם, כאשר נתון חשוב עוד יותר הוא הביצועים שלו מול מאיץ ה-Nvidia H100 המתחרה.

לפי אינטל, Gaudi 3 מציע שיפור של עד 50% בממוצע הזמן שצריך לאמן מודלי Llama2 עם 7 מיליארד פרמטרים ועד 70% באימון 13 מיליארד פרמטרים, תוך כדי שהוא מציע צריכה חשמלית טובה יותר בעד פי 2.3 ממנו. עם זאת, חשוב לציין כי אנבידיה הציגה כבר את ה-B200, מאיץ הדור הבא המבוסס על ארכיטקטורת Blackwell.

מאיץ ה-Gaudi 3 (מקור אינטל)
מאיץ ה-Gaudi 3 (מקור אינטל)

מידע טכני

מאיץ ה-Gaudi 3 מגיע בייצור 5nm, בהשוואה ל-7nm בדור הקודם. הוא משלב 64 ליבות Tensor ו-8 מנועי מטריצה MME (ר”ת Matrix Math Engines) לקבלת ביצועים של 1835TFLOPS בחישובי FP8, פי 2 לעומת הדור הקודם.

השבב מגיע עם 128GB זיכרון HBM2e מהיר בעל רוחב פס של 3.7TB/s, זיכרון SRAM יעודי בנפח 96MB עם רוחב פס גבוה של 12.8TB/s ויכולת חיבור לעד 24 חיבורי 200GbE.

את המאיץ יהיה ניתן להשיג במגוון תצורות, בהן ככרטיס הרחבה בעל חיבור PCIe 5.0 x16 יעודי, כרטיס Mezzanine או כלוח המשלב ביחד 8 מאיצים.

מפרט מאיץ ה-Gaudi 3 (מקור אינטל)
מפרט מאיץ ה-Gaudi 3 (מקור אינטל)

פט גלסינגר, מנכ”ל אינטל:

החדשנות מתקדמת בקצב חסר תקדים, הכל מתאפשר על ידי סיליקון – וכל חברה הופכת במהירות לחברת בינה מלאכותית. אינטל מביאה AI לכל מקום ברחבי הארגון מהמחשב האישי למרכז הנתונים ועד לקצה. הפלטפורמות האחרונות שלנו גאודי, Xeon ו-Core Ultra מספקות קבוצה מגובשת של פתרונות גמישים המותאמים לענות על הצרכים המשתנים של הלקוחות שלנו ולנצל את ההזדמנויות העצומות העומדות לפנינו.

מאיץ ה-Gaudi 3 יהיה זמין מיצרני מחשבים, בהם דל, HP, לנובו ו-Supermicro, במהלך הרבעון השני של 2024.


חלק מהפוסטים באתר כוללים קישורי תכניות שותפים, עבורם נקבל עמלה עם ביצוע רכישה בפועל של מוצרים. עמלה זו לא מייקרת את העלות הסופית של המוצרים עבורכם.

הסקירות והתכנים המופיעים באתר מהווים המלצה בלבד, וכך יש להתייחס אליהם. כל המחירים המופיעים באתר נכונים ליום הפרסום בלבד והאחריות לקניית מוצר או שירות כזה או אחר מוטלת עליך בלבד – השימוש באתר בהתאם לתנאי השימוש והפרטיות.

השוואת מפרטים