מיקרוסופט הציגה את שבב ה-Maia 300 עם ביצועים של עד 13.8PFLOPS

שבב Maia 300 (מקור מיקרוסופט)

נקודות עיקריות

  • •מיקרוסופט הכריזה על מאיץ ה-AI מהדור השלישי Azure Maia 300 המיועד למרכזי נתונים.
  • •המאיץ כולל ארכיטקטורת Multi-chiplet בייצור N2P לצד 288GB זיכרון HBM4 ברוחב פס של 18TB/s.
  • •השבב מציג שיפור של עד פי 2.5 ברוחב פס הזיכרון ונועד לייעל הרצת מודלים וסוכני בינה מלאכותית.
  • •הפריסה המבצעית של המאיץ במרכזי הנתונים של החברה צפויה להתחיל במהלך שנת 2027.

מיקרוסופט (Microsoft) הכריזה על Azure Maia 300, מאיץ בינה מלאכותית מהדור השלישי בפיתוח עצמי המיועד להרצת מודלים בענן. השבב החדש מבוסס על ארכיטקטורת Multi-chiplet בייצור N2P, ומציע ביצועים של עד 13.8PFLOPS. לפי החברה, תצורת ארון מלאה של 96 מאיצים מספקת תפוקת טוקנים גבוהה עד פי 7 לעומת הדור הקודם.

ההכרזה מגיעה במקביל לכניסתו של מאיץ Maia 200 לעבודה מבצעית שוטפת בארצות הברית, באירופה ובאוסטרליה. בחברה מציינים כי משפחת המאיצים נועדה לצמצם את התלות בחומרת צד שלישי של חברות כמו Nvidia ו-AMD, ולהתמודד עם עומסי זיכרון וחישוב מורכבים.

הכירו את Maia 300

Maia 300 ממשיך את סדרת המאיצים הייעודיים של החברה, שהחלה עם Maia 100 ב-2023 והמשיכה עם Maia 200 בתחילת 2026. הדור הנוכחי מתמקד בשיפור היעילות האנרגטית בהרצת מודלי שפה בעלי חלון הקשר רחב, סוכני AI הפועלים במספר שלבים ואינטראקציות שיחה הדורשות זמני תגובה נמוכים.

במסגרת הארכיטקטורה הכוללת, המאיץ מתוכנן לפעול בארונות שרתים המאגדים 96 מאיצים במעטפת צריכה של 167kW. תצורה זו מספקת קיבולת זיכרון מצטברת של 27.6TB ורוחב פס של 1.7PB/s ברמת הארון.

מיקרוסופט היא לא היחידה שפונה לפיתוח עצמי. גוגל מפעילה כבר שנים את מאיצי ה-TPU שלה, אמזון מפתחת את סדרת Trainium לשירותי AWS, ומטא עובדת על מאיצי MTIA. המכנה המשותף הוא הרצון להוריד את עלויות ההרצה ולהפחית את התלות באספקת מעבדים גרפיים של Nvidia, שהביקוש להם עולה על ההיצע.

שבב Maia 300 (מקור מיקרוסופט)
שבב Maia 300 (מקור מיקרוסופט)

ארכיטקטורה וטכנולוגיה

המאיץ בנוי במבנה Multi-chiplet המפריד בין רכיבי החישוב, בקרי הזיכרון וממשקי הקלט והפלט. שבב החישוב הראשי מיוצר בתהליך N2P של TSMC, בעוד שרכיבים תומכים מיוצרים בתהליכים מקבילים, בהם תהליך 3nm.

מערך הזיכרון כולל שמונה מחסניות HBM4 בנפח כולל של 288GB, המספקות רוחב פס שיא של 18TB/s וקצב העברה של 9Gb/s לכל פין. לצד זאת, המאיץ משלב זיכרון SRAM על גבי השבב המשמש כזיכרון ביניים לניהול תוכנתי ומפחית את העומס על מערך ה-HBM.

לצורך תקשורת בין מאיצים וארונות שרתים, Maia 300 מספק רוחב פס דו-כיווני של 3.2TB/s ברשת Ethernet דו-שכבתית בעלת פרוטוקול מותאם לעומסי בינה מלאכותית. מבנה זה מאפשר לחבר אשכולות חישוב של כ-12,000 מאיצים במתחם סקייל-אפ אחיד.

מפרט שבב Maia 300 (מקור מיקרוסופט)
מפרט שבב Maia 300 (מקור מיקרוסופט)

ביצועים

ברמת החישוב, Maia 300 מספק ביצועים של עד 13.8PFLOPS בדיוק FP4 ועד 6.9PFLOPS בדיוק FP8. המאיץ תומך בפורמטים בעלי דיוק נמוך כמו MXFP4, המסייעים בצמצום דרישות הזיכרון עבור חישובים ושמירת נתוני KV-cache.

לדברי החברה, Maia 300 צפוי לספק 40% יותר טוקנים לכל מגוואט בהשוואה למערכות מבוססות GPU מובילות בשוק. בנוסף, החברה מוסרת כי בתצורת ארון מלאה של 96 מאיצים, תפוקת הטוקנים גבוהה עד פי 7 בהשוואה לדור הקודם, Maia 200.

שימושים ותרחישים

המאיצים מסדרת Azure Maia מיועדים להרצת מגוון מודלים, בהם מודלים של OpenAI, מודלי MAI של Microsoft ומודלי קוד פתוח. שירות Maia 200 מפעיל כיום יכולות מובנות ביישומי Microsoft Teams, Copilot ו-Cowork, ועד סוף השנה צפוי להתרחב ל-GitHub Copilot ול-Microsoft Foundry.

מאיץ Maia 300 נועד להרחיב תרחישים אלה לעבודה מורכבת של סוכני קוד ב-GitHub, אספקת שירותי מודלים בקנה מידה רחב, יצירת נתונים לצוותי פיתוח ואינטראקציות רפואיות במערכת Dragon Copilot.

השוואת Maia 300 מול Maia 200

מאפיין Maia 200 Maia 300 שיפור / שינוי
תהליך ייצור Monolithic N3P Multi-chiplet N2P Compute מעבר למבנה Chiplet ו-2nm
ביצועי FP4 10.1PFLOPS 13.8PFLOPS +36.6%
ביצועי FP8 5.1PFLOPS 6.9PFLOPS +35.3%
צריכת חשמל (TDP) 750W 950W +26.7%
מערך זיכרון 6 מחסניות HBM3E 8 מחסניות HBM4 מעבר ל-HBM4 (+33.3% מחסניות)
נפח זיכרון 216GB 288GB +33.3%
רוחב פס זיכרון 7.1TB/s 18TB/s +153.5% (פי 2.5)
רוחב פס סקייל-אפ 2.8TB/s 3.2TB/s +14.3%
מאיצים בארון (Rack) 48 מאיצים 96 מאיצים +100% (פי 2)
גודל אשכול מרבי כ-6,000 מאיצים כ-12,000 מאיצים +100% (פי 2)
רשת חיבור אחורית Two-tier Ethernet scale-up with AI Transport ללא שינוי ארכיטקטוני

זמינות ולוחות זמנים

פריסת מאיצי Maia 300 בסביבות ייצור מתוכננת להתחיל בשנת 2027. לפי דיווח של רויטרס, החברה עשויה לפרוס יותר ממיליון שבבי Maia 300 בשנה הבאה במסגרת הגדלת היקף החומרה העצמאית שלה.

השוואת מפרטים