- חברת AMD חשפה את טכנולוגיית MEXT, פתרון תוכנה מבוסס AI המיועד לצמצם את עלויות הזיכרון בשרתי Epyc.
- הטכנולוגיה מנבאת גישה לנתונים ומעבירה דפי זיכרון בלתי פעילים לאחסון פלאש מהיר במקום לרכיבי DRAM יקרים.
- לדברי החברה, המערכת מאפשרת לשמור על עד 99% מהביצועים בקיצוץ של מחצית מזיכרון ה-DRAM המותקן.
- הפתרון מופץ תחילה לשרתים תואמים בשיתוף יצרניות כמו HPE, ויוצע בהמשך ברישוי מסחרי ייעודי.
חברת AMD הציגה את MEXT Predictive Memory Software (להלן MEXT), פתרון תוכנה חדש של חברת MEXT אותה רכשה ביוני, המיועד להתמודד עם הזינוק במחירי ה-DRAM וצווארי הבקבוק באספקת רכיבי זיכרון לשרתים.
הטכנולוגיה משתמשת במודלי בינה מלאכותית כדי לנהל את תעבורת הנתונים בין זיכרון העבודה לאחסון פלאש מבוסס NVMe ולאפשר עד 99% מהביצועים בחצי מכמות הזיכרון.
לפי נתוני החברה, זיכרון ה-DRAM מהווה כיום כ-75% מעלות שרת ממוצע, כאשר במערכות עתירות זיכרון הנתח עשוי להגיע אף ל-90%.
פתרון ה-MEXT נועד לאפשר לארגונים לצמצם את היקף רכישת הזיכרון היקר מבלי לפגוע במהירות הריצה של יישומים ארגוניים.
זיכרון בלתי מנוצל במרכזי נתונים
מחקרים שערכו חברות כמו מטא ומייקרוסופט הצביעו על כך שבין 50% ל-80% מדפי הזיכרון במערכות ענן אינם פעילים במשך חמש דקות או יותר. במקביל, הקצאת יתר של משאבים מובילה לכך שחלק ניכר מה-DRAM המותקן כלל אינו מנוצל בפועל.
אחסון פלאש מבוסס NVMe זול משמעותית מ-DRAM וצורך פי 30 פחות חשמל, אך הוא גם איטי ממנו בכמעט פי 500. בשל פערי המהירות, מנהלי מערכות נמנעו באופן מסורתי משימוש בקובצי החלפה (SWAP) שפוגעים בזמני התגובה של שירותים קריטיים.
חיזוי מבוסס AI לתעבורת הנתונים
טכנולוגיית MEXT פותרת את בעיית השיהוי באמצעות מודל AI. במקום לנבא את המילה הבאה בטקסט, המודלים מנבאים אילו דפי זיכרון יידרשו למעבד בפרק הזמן הקרוב.
כאשר דפי זיכרון אינם פעילים, המערכת מעבירה אותם לאחסון הפלאש באופן שקוף לחלוטין למערכת ההפעלה. ברגע שהאלגוריתם מזהה צורך עתידי במידע, הוא מחזיר את הדפים אל זיכרון ה-DRAM לפני שהיישום דורש אותם בפועל.
אימון המודלים מתבצע בזמן אמת ונמשך פחות משנייה אחת על גבי ליבת מעבד Epyc בודדת, ללא צורך במאיץ גרפי ייעודי. בסביבות וירטואליות נדרשת הקצאה של ליבה אחת לכל מכונה וירטואלית לצורך פעילות המנוע.
ארכיטקטורת הפתרון
חבילת התוכנה של MEXT מורכבת משלושה רכיבים עיקריים שאינם דורשים שינויי חומרה או שינויים בקוד של יישומים קיימים:
- דרייבר ייעודי למערכת ההפעלה Linux הפועל ברמת הליבה (Kernel) בעומס עיבוד מינימלי.
- מנוע בינה מלאכותית (AI Engine) הכולל מכלול מודלים המתאמנים ומשתפרים באופן רציף במהלך העבודה השוטפת.
- פלטפורמת הניטור RAM View, המאפשרת למנהלי IT לקבל תמונת מצב מדויקת בזמן אמת על אודות אופי הניצול של הזיכרון.
ביצועים וחיסכון בעלויות
במבחני ביצועים שערכה AMD, מערכות שהפעילו את כלי התכנון Synopsys PrimeTime שמרו על 95% מרמת הביצועים המקורית, גם כאשר מחצית מזיכרון ה-DRAM הוחלפה באחסון פלאש. בהחלפה של 75% מהזיכרון בפלאש, עמדו הביצועים על כ-80% בהשוואה לתצורה מלאה.
לפי נתוני AMD, הטכנולוגיה מסוגלת לחסוך עד 83% מעלויות הזיכרון במערכי שרתים. ב-145 המערכות הראשונות שבהן הוטמעה התוכנה, חסכו לקוחות החברה עלויות רכישת DRAM המוערכות בכ-5 מיליון דולר.
זמינות
הפצת MEXT מתבצעת בשני שלבים עיקריים. השלב הראשון פעיל כעת, ובמסגרתו פועלת AMD מול יצרניות שרתים דוגמת HPE כדי להבטיח כי שרתי Epyc יגיעו עם תאימות מובנית להפעלת הפתרון.
בשלב השני, AMD תציע את התוכנה ללקוחות ארגוניים במסגרת רישוי מסחרי ייעודי.
הסבר על טכנולוגיית MEXT:
