Post #345

黄仁勋最近在台湾 ComputeX 2024 的演讲，面向的是普通大众： 1. CUDA 才是 Nvidia 得以成功的核心 — 没有 CUDA，根本不可能有这么多开发者使用 Nvidia 的显卡，也有不可能有今天； 2. 使用显卡并行计算，不仅省时间，也省能耗；随着显卡的计算性能越来越高，能耗的使用效率也越来越高，比如最新的 Blackwell 单位耗能只有 Pascal 的 1/350； 3. 之前的信息基本都是获取式的（retrieval），而以 LLM 为代表的信息是生成式的（generative），今后的信息会以生成式为主，无法生成的才会通过获取式获得； 4. Blackwell 的新架构可以让 FLOP 提高45倍，而能耗只是10倍，也就是原先耗能的22%。这也为未来的 AI 工厂奠定了基础。当然中国的所有相关产业都无法享受到这些； 5. AI 的下一波浪潮会是物理世界的 AI (Physical AI)，当然这些的基础是图像处理和强化学习。最经典的例子就是，富士康的工厂用 Nvidia 的技术来优化它们的流水线布局，而这些流水线会生产出新的 Nvidia 显卡。 https://www.youtube.com/watch?v=pKXDVsWZmUU&t=5s