Together AI：开源算力时代的“造水者”

AI算力新范式：不做模型，专做“平替基建” Together AI成立于2022年，定位为一家AI原生云平台，不训练大模型，也不提供闭源API服务，而是聚焦于一个被长期低估的底层命题：如何让开源大模型真正跑得动、用得起、规模化。 它不卖模型，只出租算力——基于英伟达GPU集群，为企业与开发者提供Serverless推理、专属基础设施、批量推理等服务。其核心价值不是替代OpenAI或Claude，而是让DeepSeek、Kimi、MiniMax等高性能开源模型，在真实业务场景中具备商业可行性。 成本革命：6倍到60倍的推理降本 闭源模型高昂的Token费用，曾使大量AI应用在商业化前就陷入亏损。Together AI通过系统级优化，将开源模型的推理成本压缩至原有方案的1/6甚至1/60。以客户Decagon为例，迁移至其平台后，AI客服系统的推理成本直降6倍。 这种降本能力并非来自低价硬件堆砌，而是源于全栈技术自研：自研ATLAS推理引擎、深度集成推测解码（Speculative Decoding）、上下文感知路由、KV缓存智能管理等关键技术，使同等负载下的GPU利用率提升显著，推理吞吐最高提升400%。 订单爆发：从3000万到11.5亿美元 技术优势快速转化为商业结果。2024年初年度预订额仅3000万美元，一年后跃升至11.5亿美元，增长38倍。这一数字背后，是AI Agent工作流对Token调用量的指数级拉动，更是企业从“试用AI”转向“依赖AI”的关键拐点。 华人技术天团：从学术理想走向工程落地 公司由两位华人科学家共同奠基：联合创始人兼CTO张策，北大数学系出身，深耕机器学习系统优化十余年，坚信AI不应是少数巨头的特权；另一位联合创始人珀西·梁，斯坦福大学教授、基础模型研究中心（CRFM）主任，在开源模型评测与选型体系上构建了行业基准。 二人分工清晰：张策打造高效低成本的算力调度“高速公路”，珀西·梁则以学术严谨性充当技术落地的“导航仪”。他们与首席科学家特里·陶共同构成底层技术铁三角，确保算法、架构、调度、模型适配四大维度持续领先。 英伟达的生态逻辑：不止卖卡，更建管道 英伟达连续参与Together AI多轮投资，并非单纯财务押注。Together AI已成其Blackwell架构落地的关键通路——全部算力底座基于H100/H200及最新Blackwell GPU构建。11.5亿美元的年预订额，意味着未来数年将持续产生确定性的GPU采购需求。 更重要的是，Together AI代表了一类新型AI云服务商（Neocloud）：轻资产、重技术、快迭代。它帮助英伟达绕过传统云厂商渠道，直接触达中长尾开发者与垂直行业客户，实现客户结构多元化。财报显示，英伟达数据中心收入增长中，超大规模云厂商之外的AI云、工业与主权AI客户贡献日益突出。 五年扩容50倍：开源大模型的基建时刻 Together AI已明确规划，未来五年将公有云算力容量扩大50倍。这不是盲目扩张，而是基于一个判断：当推理成本不再是瓶颈，开源模型的迭代速度、可控性与定制化优势，将全面释放生产力。 这场由华人技术力量驱动的算力基建运动，正悄然重塑AI价值链——模型开发者专注创新，应用方专注场景，而Together AI，正成为连接二者最坚实、最高效的“水渠”。