纸面算力与实际产出之间的鸿沟有多大？WAIC 2026现场，多位行业人士给出了一个令人不安的参考数字：不到30%。也就是说，一台AI服务器交付到用户手中后，真正被有效利用的算力，可能连规格表上数字的三成都不到。

这并非个别人的判断。不同领域的芯片企业，不约而同地把话题从“算力有多大”转向了“算力用得好不好”。这种叙事方式的转变本身就是一个信号：AI产业已经跨过“能不能”的第一道门槛，向“好用”阶段迈进。

这个阶段的核心矛盾，正在从芯片本身向上迁移。

推理超越训练：不是预测，是既成事实

2024年，行业热钱几乎全部涌向训练侧；2026年，推理对于算力调用量已经超过训练。

训练芯片追求的是“学得更好”，推理芯片追求的是“用得更省”。曦望智能商业产品与解决方案高级总监付庆平表示，两种不同的设计哲学，对应的是两种不同的商业逻辑。推理调度的粒度正在从任务级细化到算子级：“越细粒度越高效，每高效一分，token成本就降一分。”这意味着推理芯片的竞争已经深入到模型层的调度效率，一个看似属于软件范畴的维度，正在成为芯片产品的核心卖点。

从视频处理的视角看，推理需求的爆发更为直观。VPU厂商判断未来80%的视频将由AI生成，而据测算，视频生成的token消耗是文字生成的1000倍。据介绍，通过将视频相关计算从GPU中剥离出来交给专用芯片处理，VPU+GPU协同有望将视频生成成本降低8成。

后摩智能战略生态VP杨大卫表示：“训练决定模型能力上限，推理决定AI能不能大范围落地。”当推理成为产业主轴，芯片行业的需求结构随之改变。云端需要规模化推理芯片，视频场景需要VPU，端侧快思考需要NPU，低功耗端侧推理需要存算一体架构。通用GPU不再是唯一答案，专用化正在从理论讨论变成商业现实。

算力经济学，成为行业共识

镕铭微电子联合创始人兼CEO朱照远认为算力成本降低的根本原因是效率提升。用交通方式的升级来理解硬件产品的更新：从马车到汽车再到火车，同样从A点到B点，成本是降低的，但降低的根本原因不在于“省”，而在于效率的“升”。

这解释了为什么WAIC 2026上，多家企业不再把TOPS数字放在首位，而是开始谈“综合成本”。数据中心客户在评估芯片方案时关注至少六个维度：稳定性、性能、延时、功耗、画质和TCO。“客户不关注你叫什么PU”，这句话背后的事实是：当AI从实验室进入生产环境，评价标准不是你的考试分数，而是你的工作结果。

推理芯片通过硬件裁剪掉训练相关的冗余功能来降低成本。这体现了从通用到专用的趋势。从最早的CPU，到GPU，再到DPU、VPU，每一次专用化都对应着某一类计算需求从通用平台中剥离出来。VPU+GPU协同降低成本的案例，已经为这一趋势提供了商业验证。现阶段国产芯片选GPU路线是市场选择。硬件厂家要面对市场，产品要一代接一代不能断，风险最可控的就是通用GPU，但再往后发展，各种各样的算力芯片会向细分领域发展，在局部形成独角兽。

边缘芯片的降本方案是依靠算法合作伙伴在不同场景上做适配，如果品类足够大（如手机、汽车），可以承担定制化成本；其他场景靠通用底座覆盖，才能让底层降本的红利惠及更多行业。从端侧角度看，问题更为复杂。端侧推理的三大刚需是隐私、成本和物理世界交互的延时，这三个维度决定了端侧芯片的设计逻辑与云端不同。爱芯元智联合创始人、副总裁刘建伟指出了端云之间的逻辑差异：云端先看体验再降成本，端边先看成本再提体验。这个顺序差异直接影响芯片设计取舍。端侧AI的商业模式也在因此发生变化，当用户发现订阅费可能比硬件本身还贵时，从订阅制转向一次性买断的诉求开始出现。

AI芯片行业正进入以TCO为核心考量的成熟期。在这个阶段，软件优化能力和系统工程能力的价值，可能超过硬件参数本身。

与此交织的另一个分歧是：下一场AI革命在哪里爆发。有人认为云端（AI视频生成）和端侧（具身智能）都会发生革命；有人把2026年定义为“物理AI元年”，最看好机器人；也有人认为全行业都会爆发，落地最快的一定是最懂AI的行业。

物理AI元年：具身智能走到哪了

具身智能被多家企业提及为下一个爆发点。WAIC现场的机器人展区提供了佐证：不同于往年表演型机器人，拿水、打拳击；今年已有机器人能长时间连续完成细致性工作，从展台秀进入工厂产线。

但具身智能的产业形态远未收敛。有观点主张广义——扫地机、割草机这类能自主干活的机器就可以称为“机器人”；也有观点倾向人形路线，理由是人类所有基础设施都为人形设计，人形机器人适用性最广，是最通用的硬件载体，规模化后成本可降。但现阶段人形制造成本仍高，最终取决于哪种形态先做到成本可行。

机器人对AI的依赖程度与其他终端有本质区别。有存算一体路线的企业给出了一个尖锐对比：PC离开AI还是PC，汽车离开AI还是汽车，但机器人离开AI就是一块铁。这意味着机器人对端侧AI的刚需最为迫切，体现在三个维度：隐私（数据不能上云）、Token成本（频繁调用云端太贵）、物理交互的实时性和安全性（隧道无信号时不能失控，机器人命令不能依赖云端）。在这三个维度上，端侧芯片的低功耗和高能效比成为关键变量，而存算一体架构可将功耗能效比提升一到两个数量级。

对于具身智能行业来说，数据瓶颈已有所缓解。行业巨头已收集大量视频和操作数据；算法基本可用，WAIC上多家机器人公司的展示已经证明。真正的挑战在于算法如何高效跑在算力上：模型剪枝、低功耗、低延时必须协同优化，本质仍是系统工程问题。

数百家具身智能创业公司正在不同场景试水——物流、装配、陪伴——但尚未出现公认的杀手级应用。底层的芯片行业相信，给客户打开一道通往万物智能的大门，自然会涌现出很多应用。

软件生态：比芯片更厚的壁垒

如果说成本效率是竞争的终点，软件生态就是通往终点的关键路障。回到开篇提到的纸面算力与实际产出的巨大差距，其根源在于模型选型、微调、知识库建设、中底层软件栈优化和机房配置等环节。交付一台AI服务器和实施一个AI项目，就像买了一口锅和炒出一盘菜，中间还有着相当大的工作量。

芯片的生态壁垒的核心不仅是技术问题，更是开发者习惯问题。存算一体等新架构面临的核心挑战：不是芯片做不出来，而是软件生态跟不上。即便芯片参数已经很漂亮，但系统工程：适配、调优、客户场景打磨，还需要大量工作。

在端侧AI场景中，模型迭代速度极快。云侧大模型已经从半年一个版本加速到两个月一个版本，端侧模型同样在快速演进。每一次模型迭代都需要与芯片重新适配，工程落地的速度直接决定商业化速度。“一项技术从能用到好用，需要很多脏活累活。”

有观点指出，中底层软件栈可以把同样硬件的算力输出提高2到5倍，但这次WAIC上深入讨论这个方向的并不多。全栈落地需要多方面专业人才协同，智能体、模型优化、知识库、底层算力调度和运维，把这些角色凑齐，才有可能实施一个真正高效的全栈。

当被问及国产AI芯片最需要发展的是性能还是生态时，一家推理芯片企业的回答是：两者都不构成当前瓶颈，最缺的是产业协同。

从存算一体到端侧NPU，从VPU到全栈集成，不同技术路线的企业全部指向软件生态而非硬件性能。芯片架构的专用化方向已有行业共识，但各企业对专用化的速度、深度和最终形态存在实质分歧。分歧的底层逻辑是：AI应用场景的碎片化程度，是否足以支撑多种专用架构共存？还是最终会收敛到少数几个通用平台？

当硬件参数竞赛接近边际收益递减的拐点，竞争主阵地必然上移到软件层。而这个上移的过程，恰恰是国产芯片从“追赶性能”转向“追赶体系”的关键窗口期。行业人士进一步指出，国产生态的普及率已经非常高，高校直接在国产生态上教学，关键领域客户选用国产生态，这种自上而下的生态建设路径，是中国独有的优势。

更进一步的判断是：国产AI芯片在性能和生态上都不构成当前瓶颈。这个判断如果放在三年前几乎不可想象。但芯片参数已经很漂亮，系统工程还需要大量工作。差距不在“能不能”，而在“好不好”。一个考了70分、80分的模型已经可以干活了，但要干好活不是一个模型、一颗芯片单独的问题，是需要工具链、编译器、调度系统、行业适配的全面跟进。从AI推理芯片到真正落地，需要大量的产业协作：解决方案合作、用户场景合作、超节点网络合作，每一个环节都需要有人去做。

全栈整合的样本确实存在，从CPU到软件集成公司再到硬件制造，集团化的体系在关键领域的大型全栈工程上具备优势。但这种能力在行业中并不普遍，更多企业仍在各自为战。

从客户侧看，据行业反映，数据中心芯片从接触到大规模上线通常需要6到24个月，测试周期长、导入门槛高。这意味着即使芯片技术达标，商业化落地仍需要漫长的验证周期。这个周期不是单点技术能压缩的，需要芯片厂商、软件供应商和客户方的深度协同。

2026年的AI芯片行业正在经历一个微妙转向：竞争的主阵地从晶圆厂和流片车间，迁移到了编译器、工具链和系统调度层。当多家企业从不同技术路线出发，却不约而同地指向同一道鸿沟时，这已经不再是某一个人的判断，而是一种行业集体认知。

本文来源：半导体产业纵横