风险提示:理性看待区块链,提高风险意识!
USDT USDT $1.00 0.01%
XRP XRP $1.43310000 0.19%
BNB BNB $637.54000000 0.02%
USDC USDC $0.99963000 0.01%
SOL SOL $86.49000000 0.99%
TRX TRX $0.32360000 1.25%
BTC BTC $67,234.00 2.34%
ETH ETH $3,456.00 1.23%
CoinMeta Skill
限时免费体验

让 AI 更快获取有效、准确、可行动的币圈全景信息

大模型公司加速布局自研推理芯片:务实选择背后的算力困局与长期博弈

摘要

7月7日,DeepSeek与智谱同日传出启动自研推理芯片的消息 两家公司虽未公开证实,但多方信息显示,DeepSeek已与芯片设计公司、晶圆代工厂及存储企业展开实质性接洽;智谱则向部分国内芯片设计方发起初步技术咨询,探...

大模型公司加速布局自研推理芯片:务实选择背后的算力困局与长期博弈
7月7日,DeepSeek与智谱同日传出启动自研推理芯片的消息 两家公司虽未公开证实,但多方信息显示,DeepSeek已与芯片设计公司、晶圆代工厂及存储企业展开实质性接洽;智谱则向部分国内芯片设计方发起初步技术咨询,探讨联合开发专用AI推理处理器的可能性。 聚焦推理,而非训练:一条更可控的硬件突围路径 值得注意的是,二者瞄准的均是推理芯片——即面向模型部署与实时响应的终端侧/服务侧硬件,而非动辄需万卡集群、精度容错极低的训练芯片。推理芯片强调低延迟、高能效比与紧凑架构,对工艺成熟度、软件栈适配和工程落地能力的要求,显著低于训练芯片。 为何首选推理?两大现实动因驱动决策 一位长期深耕国产AI芯片研发的高级工程师指出:其一,技术门槛相对可控。训练芯片一旦在FP16/FP8精度下出现系统性偏差,整轮训练即告失败,成本沉没巨大;而推理阶段权重已固定,芯片性能不足时可通过量化压缩、算子融合、缓存优化等方式渐进式调优,试错成本低、迭代周期短。其二,需求迫在眉睫。随着Agent应用爆发,实时交互类场景激增,现有GPU资源严重承压。当前国产大模型厂商普遍处于算力紧平衡状态:用户端频繁遭遇服务中断、排队等待、API超时;“DeepSeek崩了”多次登上社交平台热搜,有用户统计其年内服务不可用达18次以上;智谱新模型上线后报错率高,个人版套餐秒光;火山引擎亦坦言Seedance系列API长期供不应求;腾讯高管在财报会议中直言“买不到足够显卡”。 自研不是替代,而是补位:混合算力仍是未来三年主旋律 业内共识是,短期内自研芯片无法形成规模供给。北京市人工智能高级工程师张发恩分析称,过渡期必然依赖“自研芯片+外购GPU”混合架构。造芯本质是一场深度协同工程:大模型公司拥有最贴近真实推理负载的数据流、最精细的算子行为画像、最激进的编译优化诉求——这些是通用芯片厂商难以获取的“黑盒知识”。唯有用自家AI反哺底层硬件设计,才能将计算密度、内存带宽、功耗控制压榨至极限。OpenAI已提供范本:6月24日,其联合博通发布的首款定制推理芯片,在同等任务下性能媲美英伟达Blackwell与谷歌TPU,成本直降约50%。 挑战同样真实:投入强度、时间窗口与生存能力三重考验 但国内路径远比想象中艰难。头部芯片厂商无一例外经历漫长沉淀:百度昆仑芯始于2011年(15年)、阿里平头哥布局于2018年(8年)、寒武纪等独立芯片公司持续投入亦超7年,方实现千万级部署。相比之下,多数大模型公司成立不足五年,营收结构尚不稳定,现金流抗压能力有限。哲库(ZEKU)2023年关停、京东芯片团队2026年初悄然切换主体等案例警示:芯片不是软件迭代,它容不得战略摇摆,更经不起资本耐心耗尽。能否在烧钱周期内守住产品水位、跑通商业闭环、留住核心芯片人才,才是决定这场硬仗成败的关键变量。

评论 (5)

登录 后即可发表评论
西门吹雪

造芯不容易,大模型公司看着是有需求,但技术积累、资金能不能撑住很难说,悬啊。

0 回复
边角料
边角料 3周前

短期得靠外购GPU和自研结合,长期还得看能不能啃下造芯这块硬骨头。不然算力还是不足。

0 回复
霞客
霞客 3周前

推理芯片是条路,不过这么多公司一起搞,后面竞争估计也不小,谁能做成还不知道。

0 回复
时光少年依旧蓝

务实,现在去做训练芯片太难,先搞推理芯片,有需求门槛又低。大模型公司也就能支撑先做推理这块。

0 回复
你长得不丑只是让人没想法

大模型公司造自研推理芯片想法不错,不过前期投入大时间长,还得看能不能扛过这关。

0 回复
更多