Post #10140

מגמת הזיכרון במאיצי ה-AI של אנבידיה $NVDA נכנסת להילוך אחר לגמרי $DRAM $MU $ נתונים של קרן Coatue מציגים עד כמה דרישות הזיכרון במערכות AI מזנקות - ובעיקר מה צפוי לקרות החל מ־2026. מה רואים בגרף? בין 2022 ל־2025, סך קיבולת ה־HBM + DRAM לכל GPU של אנבידיה גדלה בקצב יחסית מתון - בערך פי 1.5 בלבד. אבל החל מ־2026 התמונה משתנה לחלוטין: הענף עובר למגמת הכפלה כמעט שנתית בכמות הזיכרון לכל מאיץ AI. לפי התחזית: 🔣 2022 — סביב 350GB 🔣2025 סביב 500GB 🔣2026–2027 - קפיצה חדה בעקבות דור Rubin 🔣 2028 - בארכיטקטורת פיינמן (Feynman) הצפי כבר עומד על כ־3500GB לכל GPU כלומר: פי 10 יותר זיכרון לעומת 2022. למה זה קורה? כי מודלי AI מודרניים צורכים כמויות עצומות של מידע בזמן אמת. ככל שהמודלים גדלים: • מספר הפרמטרים מזנק • חלון ההקשר (Context Window) גדל • נפח ה־Inference עולה • ומערכות AI צריכות להחזיק יותר מידע ישירות ליד המאיץ ה-HBM הוא זיכרון אולטרה-מהיר שממוקם קרוב מאוד לשבב עצמו. המטרה שלו היא למנוע צווארי בקבוק בהעברת מידע. המשמעות לתעשייה המרוויחות המרכזיות מהמגמה: חברת SK Hynix חברת סמסונג חברת מיקרון $MU יצרניות אריזות מתקדמות חברות קירור ותשתיות חשמל למרכזי נתונים ככל שנפח הזיכרון למאיץ עולה גם צריכת החשמל, המורכבות ההנדסית והעלות לכל שרת AI מזנקות. המשמעות היא שמרכזי נתונים עתידיים יהפכו הרבה יותר צפופים, יקרים ועוצמתיים. נקודה מעניינת במיוחד אם בעבר עיקר המיקוד היה בכוח החישוב של ה־GPU עצמו - בעידן הבא הזיכרון הופך להיות צוואר הבקבוק המרכזי. למעשה, במערכות AI עתידיות: היכולת להזיז מידע במהירות עשויה להיות חשובה אפילו יותר מעוצמת העיבוד הגולמית. 🐻וול סטריט לייב🐻 ⚠️אין באמור ייעוץ השקעות, שיווק השקעות או המלצה לביצוע פעולה כלשהי. איני יועץ מוסמך. יש לפנות לייעוץ מקצועי אישי לפני קבלת החלטות.⚠️