אנבידיה (Nvidia) הכריזה היום (ב’, 28.10) על Colossus (“קולוסוס”), מחשב העל החדש והגדול ביותר בעולם בעבור בינה מלאכותית שנוצר בעבור xAI, חברת הבינה המלאכותית של אילון מאסק, מנכ”ל טסלה, SpaceX והבעלים של 𝕏, הכולל לא פחות מ-100 אלף מאיצי NVIDIA Hopper גרפיים.
ה-Colossus החדש של xAI מתבסס על פלטפורמת ה-Spectrum-X של אנבידיה שפותחה בישראל ושימשה כבסיס ל-Israel-1, מחשב העל הישראלי אותו הציגה החברה בסוף 2023. מחשב העל והמתקן בו הוא שוכן נבנו בזמן שיא של 122 ימים בלבד על ידי xAI ואנבידיה, זאת בהשוואה לזמן הטיפוסי העומד על חודשים ואף שנים למערכות בסדר גודל כזה.
מחשב העל החל לשמש לאימון משפחת מודלי ה-Grok של xAI תוך 19 ימים מהרגע שנכנס ארון השרתים הראשון למבנה, כאשר השימוש בפלטפורמת Spectrum-X עם מתגי Spectrum SN5600 ומתאמי ה-BlueField 3 SuperNIC מאפשרים לו להגיע לתפוקת נתונים של עד 95%, בהשוואה לעד 60% בשימוש בפתרונות רשת סטנדרטיים.
This weekend, the @xAI team brought our Colossus 100k H100 training cluster online. From start to finish, it was done in 122 days.
Colossus is the most powerful AI training system in the world. Moreover, it will double in size to 200k (50k H200s) in a few months.
Excellent…
— Elon Musk (@elonmusk) September 2, 2024
גלעד שיינר, סגן-נשיא בכיר ל-Networking באנבידיה, אמר:
בינה מלאכותית הופכת להיות “Mission Critical”, ודורשת ביצועים, אבטחה, סקייל ויעילות הולכים וגוברים. פלטפורמת התקשורת NVIDIA Spectrum-X Ethernet פותחה כדי לאפשר לחברות ויזמים חדשניים כמו xAI יכולות עיבוד, ניתוח הוצאה לפועל של יכולות בינה מלאכותית, ובתורה מאיצה את הפיתוח, ההטמעה וזמן ההגעה לשוק של פתרונות AI.
חברת xAI נמצאת כרגע בתהליך להכפלת גודלו של Colossus, כך שישלב בסיום השדרוג בעוד מספר חודשים לא פחות מ-200 אלף מאיצי NVIDIA Hopper.
חלק מהפוסטים באתר כוללים קישורי תכניות שותפים, עבורם נקבל עמלה עם ביצוע רכישה בפועל של מוצרים. עמלה זו לא מייקרת את העלות הסופית של המוצרים עבורכם.
הסקירות והתכנים המופיעים באתר מהווים המלצה בלבד, וכך יש להתייחס אליהם. כל המחירים המופיעים באתר נכונים ליום הפרסום בלבד והאחריות לקניית מוצר או שירות כזה או אחר מוטלת עליך בלבד – השימוש באתר בהתאם לתנאי השימוש והפרטיות.