AI模型的下一轮进化：从规模扩张走向智能密度提升

AI Scaling Law尚未终结，但范式已到转折点 虽然语言大模型、多模态模型与物理AI仍在通过增加算力、扩大参数和训练数据获得性能提升，但单纯依赖‘更大更快更强’的Scaling路径正显疲态。尤其在端侧场景——手机、汽车、机器人、工业设备中，模型受限于算力、功耗、内存与物理体积，无法简单复刻云端巨模型的成功。一个结构性矛盾日益凸显：最强的AI被锁在数据中心，而最需要实时、安全、低延迟响应的场景，却难以触达它。 PrismML：一条不走Scaling的老路，而走‘压缩智能’的新路 由加州理工学院教授Babak Hassibi联合创立的PrismML，并未选择继续堆叠参数或算力，而是将技术重心转向‘智能密度’——即单位内存、单位能耗、单位部署空间所能承载的有效智能量。其核心目标很明确：让强大AI真正落地本地，同时降低数据中心的资源消耗与能源负担。 团队基因：理论根基+系统工程+产业闭环 创始人Babak Hassibi早在1990年代就参与提出神经网络剪枝经典方法Optimal Brain Surgeon，深耕信息论、控制与机器学习交叉领域；Sahin Lale专注动态系统与自适应控制；Omead Pooladzandi聚焦二阶优化与数据高效训练；Reza Sadri则负责系统工程与商业化落地，曾主导AI Bootcamp并构建过高性能ML基础设施。这支团队兼具算法原创能力、硬件协同经验与产品化视野，天然适配‘从模型压缩到端侧部署’的全栈挑战。 不是简单量化，而是重构权重表达 PrismML不满足于常规的4-bit/8-bit后训练量化，而是对整个语言模型结构进行底层重定义：Embedding、Attention、MLP与输出层全部采用二值（1-bit）或三值（1.7-bit）权重。在二值模型中，每个权重仅保留符号方向（+/-），128个权重共享一个FP16缩放系数，平均仅占约1.125 bit；三值模型引入零状态，在体积微增前提下显著提升能力保留度。这种设计不是牺牲精度换体积，而是用更少比特逼近原模型的信息承载本质。 专用推理内核：压缩即运行 为避免解压开销，PrismML开发了原生支持压缩格式的推理内核。模型权重以二值/三值形式直接加载并运算，无需还原为FP16，大幅减少内存带宽占用与数据搬运，从根源上降低延迟与功耗。这意味着：模型越小，运行反而越快、越省电。 Bonsai系列：1-bit模型首次具备商业可行性 2026年3月，PrismML发布全球首批可商用的端到端1-bit大语言模型——1-bit Bonsai 8B。该模型整体体积仅1.15GB，比Llama3 8B缩小14倍，推理速度提升8倍，能效提高4–5倍，可在iPhone 17 Pro本地流畅运行。在M4 Pro Mac上达131 tokens/秒，RTX 4090上达368 tokens/秒，iPhone 17 Pro Max上亦有44 tokens/秒稳定表现。 Bonsai 27B：让复杂智能走进口袋 最新发布的Bonsai 27B基于Qwen3.6 27B重构，是同能力级别中首个可在手机运行的27B级模型。其1-bit版本在RTX 5090上达163 tokens/秒，M5 Max Mac上达87 tokens/秒；三值版本兼顾更高保真度，仍保持端侧可用性。它支持MLX原生运行于苹果全系设备，也兼容CUDA生态，真正打通跨平台部署链路。 混合部署架构：开启AI新使用范式 Bonsai系列催生了一种新型系统设计——混合部署：将常规任务交由本地轻量模型实时处理，仅在必要时调用云端前沿模型完成关键推理。这不仅大幅降低单任务计算成本，更释放出全新产品可能性：全天候离线智能体、毫秒级响应的具身机器人、企业级隐私优先Copilot、无网环境下的专业AI助手，以及面向医疗、航天、工控等严苛合规场景的AI原生终端。 智能密度：定义下一代AI竞争的本质 AI演进的下一阶段，不再由参数数量或FLOPs总量决定，而由‘每GB内存能做什么’、‘每瓦时电力能推理多少步’、‘每立方厘米芯片空间能承载多强的感知-决策闭环’来衡量。当模型进步从‘向外扩张’转向‘向内浓缩’，AI将真正从数据中心走向现实世界每一个角落——不是作为遥远的服务，而是作为嵌入式的、可信的、可持续的智能存在。