**一个足够聪明的模型,究竟可以消耗多少算力,又能够创造多少经济价值?**
SemiAnalysis 最近的一场内部式访谈,恰好提供了一个观察这个问题的微型样本。
他们谈到,公司内部使用 AI 的支出曾经快速上升。大量员工开始用 Codex、Claude 一类工具开发数据模型、Dashboard、内部应用和自动化工具,内部代码仓库从十几个快速增加到一百多个。但第一批工具完成之后,单个项目的持续推理成本反而下降了:搭建是一次性的,维护并不需要不断烧 Token。
乍看之下,这似乎支持了一种偏保守的判断:企业 AI 支出最终也会像 SaaS 一样趋于稳定。
但真正有意思的是下一层。
旧项目进入维护期,公司却不断产生新的研究、新的软件、新的数据模型和新工作流。AI 没有因为一个项目完成而停止消耗算力,而是不断进入新的生产环节。SemiAnalysis 对自己的总结是:很多 AI 支出实际上属于前置 R&D,但企业始终在进行新的 R&D,因此整体 AI 消耗形成了一个持续存在的平台。
这可能是理解 AI 经济最关键的变化之一。
互联网时代,软件的理想状态是把边际成本压到接近零。一个搜索页面被一亿人访问,并不意味着服务器成本也增加一亿倍。SaaS 因此成为极具吸引力的商业模式:开发一次,无限分发。
AI 正在破坏这个假设。
每一次推理都有真实计算,每一个长上下文都有真实内存占用,每一个 Agent 在后台运行,都意味着 CPU、GPU、HBM、网络和电力继续工作。
**智能第一次变成了一种需要持续购买的生产资料。**
### AI真正可能替代的,不是人,而是“人能够完成工作的上限”
传统企业讨论 AI,最容易落入一个简单的 ROI 框架:原来十个人完成的工作,现在五个人完成,于是节约五个人的工资。
这种逻辑当然存在。
SemiAnalysis 自己也提到过利用 Agent 检查发票、辅助客服、处理内部数据,从而减少人工流程时间。
但访谈里更值得注意的,是另一个例子。
一个年轻员工连续数天每天产生数千美元级别的 AI 使用成本。管理层最初也会问:“他到底在烧什么?”结果查看产出之后发现,他在相关工作上的生产率已经能够与正式员工相比。
这意味着企业未来衡量 AI ROI 的方式可能发生根本变化。
过去,公司给员工配置电脑、软件许可证和差旅预算;未来,一个高生产率知识工作者可能还会获得独立的 **Compute Budget**。
于是知识工作的生产函数逐渐从:
**员工数量 × 人均生产率**
变成:
**Human Capability × AI Compute × Agent Concurrency。**
在这种模式里,AI 最大的经济价值未必来自减少员工,而是让同样的人完成过去根本没有经济性去做的事情。
成本削减存在天然天花板——工资最多只能降到零。
而研究、软件、实验、分析和内容生产的需求,却几乎没有同样明确的上限。
这也是为什么真正的 AI Native 企业很可能不是“员工越来越少的公司”,而是**每个员工背后运行着越来越多机器劳动力的公司**。
### Agent真正改变的是:算力消费终于与人的时间解绑
ChatGPT 时代存在一个被低估的物理约束:人。
人必须输入问题、等待答案、阅读结果,再提出下一个问题。
所以即使模型再便宜,一个人的 Token 消费仍然受到注意力和工作时间限制。
Agent 改变了这一点。
访谈里有人设想,未来一个用户可能不再只是同时运行今天的几个 Agent,而是通过新的 orchestration layer 管理数量大得多的并发智能体。虽然“一百万个 Agent”显然带有夸张色彩,但它指出了正确的数学方向。
Chatbot 的算力需求近似是:
**Compute ∝ Human Attention。**
Agent 的算力需求则更接近:
**Compute ∝ Agent 数量 × Runtime × 并发度。**
这两个函数完全不同。
一个 Agent 可以在人睡觉以后继续写代码、跑实验、搜索资料、调用工具;十个 Agent 可以同时运行,而人的工作时间并没有增加。
因此,Agent 时代真正可能出现的不是简单的“用户数增长”,而是 **单用户 Compute Intensity 的结构性上升**。
这也是为什么 2025 年所谓“Year of Agent”可能并不重要。真正值得讨论的是一个更长的 **Decade of Agent**:随着 Agent 能够持续运行、调用更多工具、维护更长上下文以及执行越来越复杂的任务,每个用户背后的推理算力都可能持续扩大。
### 所以,下一代 AI 芯片真正争夺的不是 FLOPS,而是经济产出
这份访谈里最值得记住的概念,是 **Revenue per Megawatt**。
在讨论 Cerebras、NVIDIA 以及不同推理架构时,他们实际上提出了一个比传统 benchmark 更重要的问题:
如果某种芯片能让单个用户获得非常快的 Token,但单位电力能够服务的总用户数量明显减少,那么这些“快 Token”究竟能否卖出足够高的价格?
过去评价 AI 芯片习惯比较 FLOPS、Tokens/s、Tokens/$。
Agent 时代最终可能需要增加一个更接近商业本质的指标:
[Revenue/MW==========
Tokens/MW\timesRevenue/Token\timesUtilization]
这意味着,最快的芯片不一定创造最高价值,最省电的芯片也不一定创造最高价值。
真正重要的是:**一兆瓦电力经过整个 AI Factory 后,最终能够产生多少可收费的智能。**
这也解释了为什么推理市场很可能逐渐分裂。
实时语音、实时 Coding 等 Human-in-the-loop 工作负载极其在乎 latency,因为模型慢一秒,人就等待一秒;而后台 Agent 可以同时运行五个、十个甚至更多任务,用户根本不需要盯着其中任何一个 Agent 等待结果。
前者追求极致的 Token latency。
后者更在乎 Cost per Task、Concurrency 和 Reliability。
同样是“推理”,实际上已经是完全不同的硬件经济学。
### AI基础设施真正进入系统时代
这也是 NVIDIA 与各种 AI accelerator startup 竞争最值得关注的地方。
一家创业公司可以在某个特定 workload 上做到极端性能,甚至获得非常漂亮的 benchmark。但真正的数据中心必须面对另一个问题:**这些算力能不能被不断重新分配?**
今天运行训练,明天运行推理;这个模型生命周期结束,还能运行另一个模型;既能跑高吞吐 workload,也能服务交互型 workload。
这种 Infrastructure Fungibility,是通用 GPU 极其重要却经常被 benchmark 忽略的优势。
而随着推理进一步分化,未来的答案很可能也不是“GPU 或 ASIC”“HBM 或 SRAM”这样的二选一,而是更加复杂的异构系统:不同计算单元分别处理 prefill、attention、FFN、routing、tool calling,再通过高速互联组成一台真正意义上的 Token Factory。
AI 芯片竞争因此正在从单芯片竞争,走向**整套系统创造 Token 的经济效率竞争**。
---
过去互联网基础设施的终极目标,是尽可能低成本地分发信息。
AI 基础设施的目标已经不同。
它要把电力、芯片、内存和数据转化成智能,然后再把智能转化成收入。
所以 AI 时代最重要的生产函数,或许最终可以被压缩成一句非常简单的话:
**Power → Compute → Token → Task → Revenue。**
当这条链条真正跑通之后,人们也许会发现,GPU 数量、Token 数量甚至模型参数都只是中间变量。
真正决定下一阶段 AI 产业格局的,是谁能让**每一瓦电力产生更多有价值的智能**。
这也是为什么“Revenue per Megawatt”值得成为观察下一阶段 AI 基础设施最重要的指标之一:它把芯片性能、HBM、网络、电力、利用率、模型能力和商业化第一次放进了同一个方程。
而这也意味着,AI 的故事已经不再只是模型公司的故事。
它正在变成一场关于**如何工业化生产智能**的竞赛。