为什么关注这次对话？

All-In Podcast 是硅谷最具影响力的投资者和商业领袖的对话平台。本期嘉宾 Jensen Huang 是 NVIDIA 创始人兼 CEO，被公认为 AI 芯片革命的真正架构师。在当今 AI 时代，很少有人像 Jensen 一样对产业的方向有如此深刻的理解和前瞻性的规划。他不仅是硬件的缔造者，更是对整个 AI 产业未来发展方向的思想家。

这期讨论的核心

本期对话围绕四个战略性议题展开：1) Dynamo——AI 工厂的操作系统架构；2) 物理智能（Physical AI）对 AI 发展的本质转变；3) 推理爆炸（Inference Explosion）如何重塑 AI 应用场景；4) Agent 时代的到来与商业意义。Jensen 的观点来自实际的产业规划，而非理论推测，这使得这次对话具有极高的参考价值。

一句话核心论点

从算力底层设施到应用层的完整生态重塑，AI 正在从交互式智能演进到物理世界的执行层智能，而推理而非训练将成为下一个十年的关键战场。

阅读提示

60 分钟 约 7,500 字 15-20 分钟

深度解读

洞察 1：Dynamo——AI 工业化的操作系统

Two and a half years ago, I introduced the operating system of the AI factory called Dynamo.

两年半之前，我介绍了 AI 工厂的操作系统，我们称之为 Dynamo。

这句话体现了 Jensen 最核心的战略认知。传统工业时代用电力作为通用的能源基础设施，而 AI 时代的「电力」是什么？是算力和推理能力的标准化供应。Dynamo 的核心概念是「分解推理」(disaggregated inference)。

为什么这个概念如此关键？因为它打破了传统 AI 应用的束缚：

• 训练与推理分离：过去，训练和推理是耦合的。现在，可以在全球任何地方训练模型，然后将推理能力部署到接近用户的地方。这类似于工业时代建造一个中央发电站，然后将电力通过电网分布到各个工厂。

• ** 模型的标准化**：一旦推理被标准化，就可以像电力一样成为一种商品。任何公司都可以购买推理能力，而不必拥有整个 AI 基础设施。

• ** 成本结构改变**：当推理被分解和标准化后，成本从建造大型数据中心转向分布式的推理基础设施。这对 NVIDIA 意味着什么？不是减少芯片需求，而是改变芯片的部署模式。

这种架构的出现，标志着 AI 产业从「集中式训练，本地应用」向「分布式推理，全球协作」的转变。对于企业来说，这意味着获得推理能力的成本和复杂度将大幅下降，推理将成为像云计算一样的通用基础服务。所以，下一个十年，真正的机会在于推理侧的创新，而非继续堆砌训练芯片。

洞察 2：物理智能——从虚拟到现实的本质转变

Physical AI is the next frontier of artificial intelligence.

物理智能是人工智能的下一个前沿。

这是 Jensen 在对话中提出的最具远见的观点。整个 AI 产业的关注点长期聚焦于大语言模型和图像识别——这些都是虚拟信息的处理。但 Jensen 指出，真正改变人类生产力的是让 AI 进入物理世界，执行实际的任务。

物理智能包括什么？机器人、自动化系统、制造业中的实时决策、无人驾驶等。这些都需要 AI 系统不仅能理解信息，还要能感知环境、预测后果、做出决策，并立即执行。

为什么物理智能是 AI 的真正前沿？

• 市场规模完全不同：全球软件市场规模是万亿级，但制造业、物流、建筑等物理世界的市场规模是十万亿级。一旦 AI 能有效地自动化这些领域，其经济价值将远超当前的所有 AI 应用。

• ** 智能难度指数级提升**：处理文本相对容易，因为文本是结构化的。物理世界充满不确定性、非线性因果关系、实时反馈。这需要完全不同的 AI 架构和学习方式。

• ** 芯片架构的颠覆**：物理智能需要实时性、低延迟、能效比。这意味着 NVIDIA 不仅要提供数据中心级别的 GPU，还要开发边缘计算芯片、机器人芯片，甚至新型的神经形态芯片。

Jensen 透露，NVIDIA 已经与全球的机器人和自动化公司合作，这不是偶然，而是战略性的布局。物理智能时代，谁拥有边缘计算的芯片和软件栈，谁就拥有下一个十年的产业话语权。

洞察 3：推理爆炸——从稀缺到丰裕的经济学转变

Inference is going to explode. It will be cheaper than training very soon.

推理将爆炸式增长。很快它将比训练更便宜。

这个观点包含一个深刻的经济学逻辑。当某种资源从稀缺变成丰裕时，它的应用方式会发生根本性的改变。历史案例：电力。在 19 世纪末，电力是极其稀缺和昂贵的。所有机器围绕中央电机运转，共享皮带驱动系统。但当电力变得便宜且无处不在时，机器设计彻底改变了——每台机器都有自己的电动机，可以独立运作。

推理也会经历同样的转变。当前，推理是昂贵的，所以应用被设计成「尽量少调用模型」。未来，推理成本接近零时，应用的设计范式将完全改变。

推理爆炸会导致什么？

• 新型应用涌现：当推理几乎免费时，开发者会想到今天无法想象的应用。比如，实时翻译每一个语音交互、为每个用户实时个性化内容、在边缘设备上运行复杂的决策模型。

• ** 芯片需求量爆炸**：这看似矛盾，但推理便宜意味着使用量增加 100 倍。NVIDIA 需要生产和部署的芯片总数会大幅增加，只不过这些芯片分布在全球各地，而非集中在大型数据中心。

• ** 商业模式变化**：从「卖高性能 GPU 给科技巨头」转向「提供推理即服务（Inference as a Service）给所有企业」。这需要新的软件栈、新的云基础设施、新的商业伙伴关系。

Jensen 的战略布局清晰可见：NVIDIA 不是在减速，而是在加速。Dynamo 操作系统正是为了准备这个推理爆炸的时代。当推理成本接近零时，拥有最高效的推理架构和最广泛的推理网络的公司，将赚取最大的价值。

洞察 4：Agent 时代——从回答问题到自主执行

Agents are the next phase of AI development.

Agent 是 AI 开发的下一个阶段。

当前的 AI 应用主要是交互式的：用户提问，AI 回答。但 Agent 代表的是一个范式的转变——AI 不再被动等待，而是主动获取信息、制定计划、执行任务、报告结果。

Agent 的本质特征包括自主性、持续性、多工具协作。Agent 时代的商业意义深远：它能让一个人类知识工作者的生产力提升 10 倍；会产生「Agent 工程师」、「Agent 监管者」等新职位；推理需求会大幅增加——Agent 不仅需要生成答案，还要规划、决策、错误检查。

Jensen 提到，Agent 的成功取决于两个因素：模型的质量（能否做出正确决策），以及推理的效率（能否快速响应）。NVIDIA 正在两个维度上投入：与 OpenAI、Anthropic 等合作改进模型，同时优化推理芯片和软件栈。

洞察 5：NVIDIA 的战略防线——从芯片到生态

CUDA is our moat. Not because of the hardware, but because of the software ecosystem.

Cuda 是我们的护城河。不是因为硬件，而是因为软件生态。

在对话中，Jensen 反复强调的一个观点是：NVIDIA 的竞争力不仅来自芯片的性能，更来自整个软件和服务生态。这是一个深刻的战略认知。

为什么软件生态比芯片更重要？因为迁移成本太高——开发者在 Cuda 上投入了数十年的工程。即使有更好的芯片问世，用 Cuda 重写整个代码库的成本也太高了。Network effect（网络效应）让越多人用 Cuda，越多公司基于 Cuda 开发，Cuda 的价值就越大。这形成了自增强的循环。

正因为这一点，NVIDIA 在看似开源、低利润率的领域也要投入——比如 Triton 推理服务器。这些工具看起来无利可图，但它们是用来锁定开发者的战略性投资。一旦开发者依赖于你的工具链，他们就很难转换到竞争对手。

附录

A. 金句收录

1. The operating system of the AI factory is called Dynamo.

AI 工厂的操作系统叫 Dynamo。

2. Inference is going to explode. It will be cheaper than training very soon.

推理将爆炸式增长。很快它将比训练更便宜。

3. Physical AI is the next frontier of artificial intelligence.

物理智能是人工智能的下一个前沿。

4. We are not just selling chips, we are selling a software ecosystem.

我们不仅仅是在销售芯片，我们在销售一个软件生态系统。

5. The AI era is not about having the biggest model, it is about having the most efficient inference.

AI 时代不是关于拥有最大的模型，而是关于拥有最高效的推理。

B. 术语表

Dynamo NVIDIA 提出的 AI 工厂操作系统，实现分散推理的标准化和分布式部署。

** Physical AI** 让 AI 理解和操作物理世界的技术，包括机器人、自动化、实时决策等。 ** Inference** 推理，指使用已训练模型进行预测或决策的过程。推理爆炸指推理成本下降后应用需求量的指数增长。 ** Agent** 自主 AI 代理，可自主完成任务而不需逐步指示，具有目标、决策权和执行能力。 ** CUDA** NVIDIA 开发的并行计算平台和编程模型，是 GPU 计算的核心基础和竞争优势。

C. 关键启示

本报告对以下人群有重要参考价值：

• ** AI 创业者**：理解 Dynamo 和推理爆炸趋势，可以重新审视自己的产品架构。当推理成本接近零时，许多「不可行」的应用会变成现实。

• ** 企业决策者**：投资 Agent 技术和物理智能应用，是未来 5-10 年的关键竞争力。

• ** 投资者**：NVIDIA 的护城河深于芯片本身——是生态。这也意味着与 NVIDIA 紧密协作的企业也会获得长期价值。

• ** 技术人才**：推理、边缘计算、物理智能是未来最有前景的技术方向。

Report completed on March 20, 2026