Find similar content

#global#semiconductors Говорят, что уже в некоторых конфигурациях под агентный ИИ требуется 2 CPU на 1 GPU

#global#AI#semiconductors Ранее писал немного, что с ростом применения агентного ИИ растет спрос на CPU. https://t.me/zzz_NonameResearch/1783 Вчера увидел статью на substack, в которой более подробно описаны причины и следствия такого движа. Кажется, что CPU могут стать новым bottleneck в развитии ИИ, какими сначала были GPU, а потом memory с co-packaged optics. Перевод статьи на русском прикрепил во вложении (ссылка на статью вот) Отыграть тренд можно через AMD, ARM и INTL. Я в предыдущем посте ошибочно написал, что у INTL передовые чипы. Это не так, в тот раз меня в комментах разъебали мои дорогие более шаристые в этой теме подписчики, за что их благодарю. Кажется что лучший выбор это AMD. За последние 5 лет Intel существенно проиграл долю в поставках серверных CPU своему давнему конкуренту - AMD, а также новому конкуренту, который вышел на этот рынок недавно - ARM. Доля снизилась с 95% в 2020 г. до 60% в 2025 г. BoFa (смотри отчет во вложении) почему то прогнозит что с 2026 г. падение доли остановится, но насколько я понял, новейшие поколения серверных CPU Intel все равно уступают AMD и ARM (смотри файл сравнение CPU во вложении), соответственно можно предполагать дальнейшее снижение доли Intel и рост долей ARM и AMD. Кстати качество чипов наверное хорошо отображает средняя цена продажи (ASP). У Интела она стагнирует у двоих других растет существенно + AMD уже давно обогнал Intel. - у AMD помимо растущего CPU-бизнеса есть растущий и набирающий долю GPU-бизнес (гиперскейлеры и ЦОДы используют AMD как более доступный аналог чипам Nvidia, на которые уже огромная очередь). - у ARM есть бизнес по лицензированию CPU для телефонов, который в этом году будет стагнировать, так как спрос на телефоны в штуках упадет из-за того что выросли цены на память и цены на сами телефоны стали недоступны некоторым слоям населения - у AMD почти в 2 раза ниже мульты, чем у ARM - часть старого ПО и оборудования несовместимы с архитектурой CPU на основе ARM. Они работают только с архитектурой х86. У AMD их CPU работают на основе х86 Поэтому вместо бредовой вчерашней идеи купить Palantir и Planet Labs - купил AMD

🇮🇳🤝🇰🇷 Samsung, LG, Hyundai, SK Hynix meet PM Modi to discuss India expansion and exports. ~200 executives join delegation; SK Hynix evaluates chip assembly/testing; Hyundai signs EV mobility pact. India–Korea trade target $50B by 2030 vs ~$27B current, focusing #semiconductors and supply chains. #Tech#MakeInIndia

US gov't blocks China's largest LED chipmaker's $239 million bid to acquire Dutch lighting firm Lumileds — US blocks acquisition attempt of European firm [Read FullArticle] @WorldNews#WorldNews#Semiconductors#USChina

#global#semiconductors#datacenters ASML отрепортилась за 4К25. Главный прикол отчетности: В то время как аналитики ожидали, что денежный объем будущих заказов (net bookings) будет 6.85 млрд евро, фактический объем составил 13.2 млрд евро. (в 2 раза больше) Это говорит о том, что несмотря на растущие риски, что часть проектов по новым ЦОД будет смещено вправо из-за: - нехватки электрогенерирующих мощностей и чипов памяти - невозможности подключиться к сетям в определенных регионах - потенциального охлаждения рынка частного кредитования, которое формирует существенную долю финансирования строительства ЦОД (около 30% согласно Morgan Stanley) По факту что происходит – это дальнейший рост заказов на оборудование, использующееся для производства чипов. То есть клиентский спрос на чипы все еще растет, это видят фабрики по производству чипов и заказывают еще больше оборудования. ASML это мировой монополист в производстве EUV литографов (устройство, которое переносит «чертёж» схемы расположения транзисторов, контактов, линий металлической проводки и т.п для каждого слоя чипа) на пластину и имеет существенную долю DUV литографов (такое же устройство но более старого поколения. Наносит схемы с меньшей точностью) Сегодня также отчитывается Lam Research, а 12 февраля отчитывается Applied Materials. Обе компании являются лидерами в области производства оборудования для других этапов производства чипа – травление и осаждение. А завтра отчитывается KLA - лидер в контроле и метрологии. Все 3 компании, и не только их инвест сообщество разгоняет последнее время. Инвест тезис такой, что при производстве новейших чипов памяти HMB и DRAM спрос на последнее оборудование по травлению, осаждению и контролю растет быстрее чем на передовые литографы. Дело в том, что развитие последних архитектур чипов (Gate-all-around и 3D) требует меньшей точности самих микросхем на чипе (то есть можно экономить на литографах), но при этом требует гораздо больше слоев в чипе, что увеличивает интенсивность операций по травлению и осаждению, а также необходимость в контроле и метрологии. Morgan Stanley в одном из своих рисечей прогнозирует, что доля оборудования по контролю, травлению и осаждению в общем количестве оборудования для фабрик по производству чипов в 2026 г. продолжит расти за счет как раз снижения доли литографического оборудования. Кароче пока что охлаждения в CAPEX на ЦОДы и все что с ними связано не видно. Сильные данные по backlog ASML это позитивный cross-read для производителей оборудования для других этапов создания чипа, особенно на фоне дефицита чипов памяти, для производства которых требуется больше другого оборудования а не литографов.

#global#datacenters#semiconductors https://www.youtube.com/watch?v=RBmOgQi4Fr0 GPU vs TPU, DPU, NPU, XPU и т.п Все эти TPU, DPU, NPU и XPU это по сути просто ASIC (Application-Specific Integrated Circuit; Процессоры специального назначения) которые позволяют делать конкретные операции для LLM гораздо более эффективно (на 30-40% экономия в электричестве достигается) чем GPU, которые хоть и ахеренно делают множественные параллельные вычисления, но при этом все же не так эффективно как ASIC которые заархитектурили и задизайнили специально для одной цели - делать матричные вычисления, необходимые для работы LLM Но зато GPU заархитектурены и задизайнены так, что можно различные операции на них выполнять (и разработку/воспроизвеения игр/видео и вычисления для майнинга битка и вычисления для обучения и инференса ИИ) То есть они более универсальные но менее эффективные при этом. Получается такой trade-off ASIC показывают наибольшую разницу в эффективности именно при inference. Поэтому с ростом доли токенов генерируемых на inference а не на обучения доля спроса на GPU Nvidia будет снижаться, доля спроса на ASIC будет расти. А доля inference точно будет расти. Deloitte в своем репорте, что доля вычислений inference составляла 1/3 в 2023 г., 1/2 в 2025, а в 2026 г. составит уже 2/3. При этом общий объем вычислений продолжает существенный рост. Поэтому Nvidia делает шаги в сторону увеличения доли своих продуктов в inference: 1) Покупка технологии Groq 2) Разработка собственных фич, позволяющих сделать inference (https://developer.nvidia.com/blog/introducing-nvidia-bluefield-4-powered-inference-context-memory-storage-platform-for-the-next-frontier-of-ai/). Думаю в ближайшем будущем будут еще такие фичи релизить и в итоге их GPU для inference не проиграют сильно поляну разным ASICам от Гуглов и Амазонов В противном случае будет ситуация как с майнингом. Когда начинали майнить на GPU, а затем другие компании напридумывали ASIC для майнинга и Nvidia растеряла свою долю

Apple Is Reportedly Buying Up “All Available” Mobile DRAM At Very High Prices To Starve Out Its Competitors [Read FullArticle] @WorldNews#Apple#TechNews#Semiconductors

#global#AI#datacenters#semiconductors Накатал много текста и решил не спамить сюда, поэтому прикрепляю отдельный документ. Вкратце там описано как ситуация на ближнем востоке и развивающийся кризис private credit в Америке могут повлиять на котировке всех компаний, связанных со строительством ИИ-инфраструктуры.

▫️▫️▫️▫️▫️ 🚛 O‘zbekiston–Hindiston: sun’iy intellekt va yarimo‘tkazgichlar bo‘yicha amaliy hamkorlik boshlanmoqda Muloqotlar davomida O‘zbekistonda yarimo‘tkazgichlar va elektronika sanoatini rivojlantirish, ilmiy-texnik hamkorlikni kengaytirish, malakali mutaxassislar tayyorlash hamda texnologik transfer bo‘yicha qo‘shma loyihalarni amalga oshirish masalalari ko‘rib chiqildi. 🇺🇿Batafsil ____ 🚛Uzbekistan–India: Practical cooperation in artificial intelligence and semiconductors is being launched The discussions also covered joint initiatives aimed at developing the semiconductor and electronics industry in Uzbekistan, expanding scientific and technical cooperation, training highly qualified specialists, and implementing technology transfer projects. 🇬🇧More #AI#semiconductors#innovation#technology Telegram | Facebook | Instagram | Youtube|Х

TSMC Invests $100 Billion in US Chips 💰 Taiwan Semiconductor Manufacturing Company (TSMC) plans to invest at least $100 billion in US chip production over four years, boosting its total investment to $165 billion. This initiative aims to produce AI chips to support advancements in artificial intelligence, as noted by TSMC’s CEO, C.C. Wei. The investment will fund the construction of five factories in Arizona. More info. #TSMC#AI#US#Investment#ChipManufacturing#Semiconductors#TechNews #TSMC#AI#US#Investment#ChipManufacturing#Semiconductors#TechNews

⚠️ Китай попытался разобрать литографическую машину ASML (DUV), чтобы изучить её устройство, но повредил систему и затем обратился в ASML с просьбой отремонтировать. Этот случай показал, насколько такие технологии хрупкие и зависят от поставщика. 🏭 Что такое литографическая установка Литографическая установка - это ключевая машина, которая «печатает» микроскопические схемы на кремниевых пластинах. Именно она формирует транзисторы и соединения, из которых состоит каждый процессор, память или графический чип. От её точности зависит, сколько транзисторов можно разместить на одном чипе, а значит, его мощность и энергоэффективность. ASML - голландская компания, единственный в мире производитель передовых литографических систем для чипов. Без её технологий невозможно выпускать современные процессоры уровня NVIDIA, AMD, Apple, Intel или Huawei. 📉 Контекст Китай серьёзно отстаёт в производстве литографических установок и не имеет доступа к топовым системам DUV и EUV от ASML из-за экспортных ограничений США. С сентября 2024 года Нидерланды ужесточили правила — теперь даже продвинутые DUV-модели, вроде 1970i и 1980i, требуют специальных лицензий. 🔬 Что такое DUV и EUV Литографические машины DUV (Deep Ultraviolet) и EUV (Extreme Ultraviolet) - это сердце производства чипов. Они «печатают» микросхемы с помощью света: - DUV использует длину волны 193 нм - EUV - всего 13,5 нм Чем короче волна, тем мельче детали можно выгравировать → больше транзисторов → выше производительность и ниже энергопотребление. 💡 Без таких систем невозможно создавать высокоплотные и быстрые процессоры, на которых работает современный ИИ. https://www.techspot.com/news/109969-chinese-engineers-allegedly-broke-asml-chipmaking-machine-failed.html @ai_machinelearning_big_data #AI#Chips#ASML#China#DUV#EUV#Semiconductors

🚀 South Korea Maintains Key Interest Rate Amid Economic Resilience South Korea's central bank announced on April 10 that it will keep the seven-day repo rate unchanged at 2.5%, continuing its steady policy stance since July last year, in line with market expectations. According to Jin10, this decision comes amid stable inflation and relatively resilient economic growth. In March, South Korea's consumer prices rose by 2.2% year-on-year, slightly up from February's 2% increase, yet still close to the central bank's target level. In February, the central bank had already raised its growth outlook for 2026. However, the ongoing Middle East conflict is posing risks to both inflation and growth. As a major importer heavily reliant on Middle Eastern energy, South Korea faces rising import costs due to global oil and gas price hikes. Additionally, the South Korean won has weakened significantly in recent weeks, influenced by foreign capital outflows and rising oil prices. Despite these challenges, South Korea's economic growth remains resilient. March exports showed strong momentum, driven by record demand for AI-related semiconductors and robust exports to China. #SouthKorea#InterestRate#EconomicGrowth#Inflation#CentralBank#Exports#AI#Semiconductors#OilPrices#Currency#MiddleEastConflict