端侧AI时代已至：硬件重构、模型下沉与用户成本的再定义

短暂延期的Fable 5，照见一个更深层的转向 Fable 5 原定7月8日下线，后延长至12日。这短短几天的窗口期，让不少用户第一次真切触摸到前沿模型的质感——不是作为远程服务，而是作为可交互、可依赖的本地体验。它即将消失，却意外点燃了一个问题：这种量级的AI，何时能真正驻留在我们自己的设备上？ 从云端追问，转向端侧发问 过去讨论大模型，焦点总在能力边界：多强？多快？能替代什么工作？而这一次，越来越多的人开始问：它能不能跑在我手上的手机、笔记本里？这个提问本身，就是范式迁移的信号。 但现实仍存鸿沟。Fable 5 是Anthropic首个Mythos级公开模型，支持百万token上下文，专为长时间异步任务设计，运行于AWS与Google Cloud的数据中心。它与端侧设备之间的差距，不是一代芯片的演进，而是算力、功耗、内存带宽与模型压缩技术的多重数量级断层。 这也提醒我们一个本质命题：如果你不拥有硅（芯片）和权重（模型），所谓高可用性，终究是幻觉。而公众对“能否本地运行”的集体关注，正标志着端侧AI已走出技术圈层，成为大众的真实期待。 硬件不再只是载体，而是AI原生架构 2024年起，端侧AI的主题正从“宣布”转向“重构”。芯片厂商不再满足于PPT上的NPU算力数字，而是围绕本地AI推理，重写整套硬件逻辑。 高通第二代骁龙X2系列已落地：X2 Elite的Hexagon NPU达80 TOPS——这一数字在2024年仍属云端推理芯片水平；18核CPU、228GB/s内存带宽、128GB统一内存，使其不再是“能跑AI的笔记本”，而是“为AI设计的笔记本”。 更关键的是系统级布局。6月AWE大会上推出的“骁龙START”计划，将芯片、AI软件栈与生态伙伴打包成模块化方案，品牌方可以像搭乐高一样快速推出个人AI终端。首发形态是智能眼镜，后续将延展至更多设备形态。高通称之为“The Ecosystem of You”——不是你在不同设备上打开不同的AI，而是同一个AI主动跟随你。 苹果则选择更激进的路线。据可靠信源，苹果正跳过M6 Pro与M6 Max，直接押注2027年发布的AI-centric M7芯片。M系列历来以瑞士铁路般的节奏迭代（每年一代，三档配置），此次跳代，意味着内部已判定：端侧AI的需求紧迫性，已不容等待常规节奏。 M7目标内存带宽达240GB/s（M5为153GB/s），延续统一内存架构，使CPU、GPU与Neural Engine共享同一内存池，天然适配大模型推理。自M5起，每个GPU核心已内置Neural Accelerator——AI不再是一个独立协处理器，而是深度融入芯片每一处计算单元。 英伟达杀入个人AI硬件战场 英伟达没有只守数据中心。售价4699美元的DGX Spark，搭载Grace Blackwell超芯片，配备128GB统一内存与1 PFLOP FP4算力，定位为“个人AI超级计算机”。 6月GTC台北站，英伟达进一步发布RTX Spark——更轻量的超芯片方案，目标是把AI原生PC塞进更薄的笔记本形态。与此同时，RTX PRO Blackwell系列已在Dell、HP、Lenovo新款工作站落地。 配套的NemoClaw项目，支持用户在本地工作站部署安全、始终在线的AI助手。DGX Spark覆盖桌面重度推理，RTX Spark瞄准轻薄本，RTX PRO服务专业创作——三条产品线协同推进，将本地AI从极客玩具，变为可量产、可定价、可交付的硬件品类。 模型正在向下扎根，而非向上堆叠 硬件在进化，模型也在反向适配。过去一年，一批关键模型正重新定义“端侧能做什么”。 Google DeepMind发布的Gemma 4，是Gemini 3研究衍生的开源模型家族，Apache 2.0许可。五款规格覆盖全场景：E2B（仅需4–5GB内存，无GPU亦可运行）、E4B、12B（支持文本+图像+音频多模态，8GB内存即可）、26B-A4B（MoE架构，30GB内存下推理速度超30 tokens/s）。Google AI Edge团队专门演示了如何在日常笔记本上用Gemma 4-12B完成agentic工作流——卖点不是性能多强，而是：“它跑在你可能已经拥有的硬件上。” 阿里Qwen3.6-27B同样走务实路径：27B参数、百万token上下文，被MindStudio评为2026年最佳开源agentic coding模型。开发者已在Reddit搭建“Qwen3.6-35B + llama.cpp + RTX 5090”本地编码方案。它的策略不是参数竞赛，而是通过MoE与架构优化，把接近前沿的能力，压缩进本地可承受的硬件边界——它不是“小模型”，而是“被压缩的前沿模型”。 面壁智能的MiniCPM系列则更进一步：MiniCPM-V 4.6仅1.3B参数，专为端侧多模态设计，支持单图、多图及视频理解，可在iPhone、Android与鸿蒙设备原生运行；MiniCPM5-1B更是压至1B密集模型，搭配Agent Skills微调工具，目标用户从“AI开发者”扩展至“普通消费者”。Nature Communications评价其为：“迈向在边缘设备上部署GPT-4V级多模态能力的关键一步。” 这些模型的价值，不在于是否媲美云端旗舰，而在于证明：端侧AI不是云端模型的缩水版，它是一个独立品类——有专属设计目标、独特优化路径、真实使用场景，并正以惊人速度走向成熟。 代价悄然转移：从订阅费到系统性成本 端侧AI的光明前景背后，账单已然浮现。 你省掉了月费，却要为更高内存带宽、更大统一内存容量、更强NPU算力支付显著硬件溢价。M5 Max从36GB升至128GB内存差价数千元人民币；而这条价格曲线，在“本地AI”时代只会更陡峭。购机决策将新增一问：“这台设备，能跑多大的模型？” 功耗墙比显存更硬。骁龙X2 Elite NPU可持续输出数十TOPS，但满负荷80 TOPS时，无风扇轻薄本体验将明显打折；DGX Spark本身就是一台需主动散热的桌面设备。“能跑大模型”与“续航不崩”，大概率是二选一。 生态壁垒同步筑起：苹果Neural Engine深度绑定macOS；Windows Copilot+强制依赖骁龙NPU与安全芯片；Google AI Edge Gallery是Gemma在安卓的最佳路径；英伟达RTX Spark与微软Windows Agent生态深度锁定。每家都在用硬件能力构筑围墙。 模型更新节奏也变慢。云端已是月级迭代，本地部署则依赖推理框架适配、量化工具链成熟与用户主动升级。否则，你买回家的设备，跑的可能是上季度的模型。 还有一条常被忽略：本地AI意味着一个系统级模型可读取你的文件、照片、屏幕、日程与邮件——无需上传，但它就在你设备上，拥有“上帝视角”。当AI从云端匿名请求，变成你设备上那个“什么都能看见”的常驻程序，“本地=安全”的等式便不再自动成立。权限管理的复杂度，会比隐私本身更早撞上普通用户。 AI的使用成本并未消失，只是从订阅费，转为硬件溢价、生态锁仓、功耗散热与权限治理。过去买手机是在选App生态，未来买设备，可能是在选：你的AI记忆，将住在哪里。 2028年，我们真正能得到什么？ 综合所有变量，可作分层预测： 高端电脑本地运行强写作、代码、文档与图像理解模型，将成为日常标配，而非尝鲜。本地RAG、会议摘要、文件搜索与私有知识库真正可用，融入工作流。手机端多模态助手在相册搜索、语音翻译、智能摘要等场景明显增强。高端创作者、开发者与敏捷小团队将更倾向部署本地AI——因数据不出域、延迟更低、按需使用边际成本为零。 AI PC、Mac与本地AI盒子将形成新硬件分层，“这台设备能跑什么模型”，将如“屏幕多大”一样自然地成为购机参数。 更远看，接近GPT-5或Claude 4水平的开放模型，有望通过量化、MoE与推理优化，在高端个人设备上达到可用门槛——但这取决于llama.cpp、MLX、vLLM等框架的演进，KV cache压缩技术的突破，以及模型厂商是否愿为本地部署设计专用训练路径。 至于普通手机或主流笔记本完整运行Mythos本体？短期内不可能。万亿参数模型即使经最激进量化，仍需数十GB显存，远超消费电子设备物理极限。本地AI在长程agent、百万token上下文、多模态实时推理与安全能力上全面等价于云端旗舰，2028年大概率尚难实现。 但方向已然清晰。苹果、高通、英伟达的密集动作共同指向一点：端侧AI不再是一个“会不会来”的问题，而是谁先跑通硬件成本、模型能力与用户体验之间那个精确的平衡点。 当这个问题，从产业链上游一路烧进消费者的搜索框，它已比任何参数与路线图都更有力地宣告：端侧AI的时代，真的不在远处。