Inkling:一家新锐AI实验室为何坚持从零训练千亿级开源模型

1 次阅读 2026年07月16日

当全球大模型格局趋于固化,自研还有意义吗?

这个问题没有标准答案,但Thinking Machines Lab(TML)用Inkling给出了自己的回应。它不追求榜单第一,不渲染技术神话,也不靠融资故事博眼球。它的目标很朴素:打造一个企业真正能用、敢用、持续迭代的模型底座。

不是最强,但足够好用

Inkling总参数量9750亿,单次推理激活410亿,上下文窗口达100万token,预训练数据量45万亿token,覆盖文本、图像、音频与视频。它采用混合专家(MoE)架构,设计上借鉴DeepSeek V3思路,在保持规模的同时控制推理开销。 但它在官方声明中坦率承认:“Inkling并非当今最强的模型,开源或闭源都不是。”——这不是谦虚,而是立场。TML认为,开源模型的价值不在极限性能,而在于能力、推理成本、原生多模态与可微调性之间的务实平衡。

企业需要的不是SOTA,而是可塑性

TML团队此前已通过ToB平台Tinker积累了近一年的真实场景经验。他们发现,企业在落地AI时最常遇到三个痛点:算力成本不可控、定制流程断裂、多模态支持割裂。Inkling的设计正是对这三点的系统性回应——聚焦Token经济性、深度可定制闭环、原生多模态。 它不把“高分”当作终点,而是把“能否被企业用自己的数据反复打磨”作为衡量标准。为此,TML甚至让Inkling参与自身的微调实验:模型在Tinker平台上自主编写任务、运行训练、评估结果。这不是炫技,而是验证其作为基础设施的自我进化能力。

一条会自我调节的推理路径

在Terminal Bench 2.1智能体编程基准中,Inkling达到与英伟达Nemotron 3 Ultra同等性能时,仅需后者约三分之一的生成Token数。这种效率并非靠截断输出实现,而是通过超3000万次强化学习rollout内化形成的决策本能。 TML在后训练阶段引入动态Token成本机制:为不同任务设定差异化的每Token代价,引导模型学会判断——何时该深入推理,何时该及时收束。最终,Inkling发展出可配置的推理强度档位(output_config.effort 0–1),并在训练中自发压缩思维链表达,形成更紧凑、更经济的推理风格。 这意味着,开发者不再面对“固定算力换固定效果”的僵硬选择,而是拥有一条平滑的成本-性能调节曲线。

不只是开放权重,更是开放闭环

TML没有止步于发布模型权重。他们同步推出tml-renderer——一个专为复杂交互场景设计的数据渲染器,统一处理聊天消息、工具调用、图像与音频输入,确保推理采样与监督微调使用同一套格式规则。这套工具链支撑了“模型微调自身”的演示,也使企业能在真实业务流中稳定复用Inkling。 同期发布的Inkling-Small(2760亿总参/120亿激活)并非简单缩水版,而是面向高频、批量调用场景的协同组件:它在编程评测、模型打分、合成数据生成等任务中表现稳健,虽在复杂Agent和事实准确性上有所折损,却为企业提供了另一档成本选择。

原生多模态:为了更自然的人机协作

Inkling从预训练起就将文本、图像、音频联合建模,而非后期外挂编码器。它将多模态信号转化为轻量表示,与文本Token统一处理。这一设计服务于一种新型人机协作范式:前台模型负责实时语音/画面交互,后台则由Inkling异步承接深度推理、工具调用与上下文整合。 它能转写长语音、解析数学图表、结合Python代码放大裁剪图像,并在CharXiv视觉测试中借助工具将准确率从78.1%提升至82.0%。当前虽仅支持文本输出,但其输入端的原生融合能力,已为后续扩展预留了清晰路径。

安全与部署:拒绝黑盒,拥抱选择

在FORTRESS对抗测试中,Inkling对有害请求拒绝率达78%,同时对无害相似请求保持95.9%正常响应率,体现理性防御而非过度拦截。交付方式上,它提供BF16原始权重与Blackwell优化的NVFP4量化版本;既支持Together AI、Fireworks等托管服务调用,也兼容SGLang、vLLM、llama.cpp及Transformers等主流推理框架,兼顾云上敏捷与本地可控。

结语:自研不是执念,而是必然

TML选择从零训练Inkling,不是为了重复造轮子,而是因为企业级AI基础设施必须掌握全栈能力:只有掌控预训练、强化学习、推理优化与微调闭环,才能回答这些关键问题——任务需要多少Token?推理强度能否按需调节?模型能否原生理解多模态输入?企业是否能用自己的数据持续训练,并无缝嵌入现有技术栈? Inkling的存在本身,就是对这个问题的回答:当AI进入深水区,决定竞争力的不再是参数数字或榜单排名,而是模型能否真正扎根于企业的业务流之中,成为可信赖、可演进、可掌控的智能基座。

(10)

柏
1周前

这模型不追求榜单第一,注重企业需求,务实的做法值得肯定,希望能推广开。

0
审计哥
审计哥 1周前

这实验室挺务实啊,不追求最强,就想做企业能用的,思路挺对,企业要的就是实用。

0
吉祥牛
吉祥牛 1周前

安全和部署方面考虑得挺周全,既防有害请求,交付方式还多样,很贴心。

0
同
1周前

从零训练有必要,掌握全栈能力才能满足企业各种需求,这思路很明智。

0
心诚则灵

企业级AI就得掌握全栈能力,这实验室自研方向对,模型能扎根业务流才是关键。

0

英伟达合作伙伴广达电脑寻求发行全球存托股票筹资不超22亿美元

人工智能服务器制造商广达电脑计划通过发行全球存托股票(GDS)筹资至多21.9亿美元。这家英伟达合作伙伴拟发行4900万份证券,每份发行价介于43.91美元至44.77美元。

澜起科技:首次回购50万股A股股份 支付金额约1.03亿元

澜起科技(688008.SH)公告称,2026年7月29日,公司通过集中竞价交易方式首次回购A股股份50万股,占总股本0.04%,回购金额约1.03亿元,价格区间为192.18元/股至210.00元/股。

北交所、全国股转公司启动全国重点专精特新企业培育专项行动

由北交所、全国股转公司联合江苏省委金融办、江苏省工信厅、江苏证监局主办,江苏股权交易中心协办的全国首场重点专精特新企业培训活动7月29日在南京举办。拉开了“全国重点专精特新企业培育专项行动”的序幕。本次活动坚持政策解读与实操指导“双轮驱动”理念,通过系统宣介工信、金融部门支持专精特新企业赴新三板、北交所挂牌上市的政策举措,深度解读区域性股权市场、新三板、北交所全链条服务专精特新企业成长的机制安排,深入剖析企业筹备挂牌上市过程中的常见问题并提供解决方案,旨在推动更多优质专精特新企业依托北交所、新三板市场实现高质量发展,完善覆盖专精特新企业成长全周期的梯度培育生态。参训企业表示,培训内容丰富务实,为企业科学规划挂牌上市路径提供了清晰可循的“导航图”。下一步,北交所、全国股转公司将发挥“工信部-交易所-地方金融部门-区域性股权市场”多方共育专精特新的服务机制,在全国范围内陆续开展专项行动系列活动,持续提升针对重点专精特新企业的管家式服务水平,为服务构建现代化产业体系和实体经济高质量发展积极贡献力量。

财通福鑫定开混合:将于7月30日开盘起至当日10:30停牌

财通基金管理有限公司公告,截至2026年7月29日上海证券交易所收盘,旗下财通多策略福鑫定期开放灵活配置混合型发起式证券投资基金(场内简称:财通福鑫定开混合,交易代码:501046)二级市场交易价格明显高于基金份额净值,出现较大幅度溢价。特此提示投资者关注二级市场交易价格溢价风险,投资者如果盲目投资,可能遭受重大损失。为维护投资者利益,本基金将于2026年7月30日开盘起至当日10:30停牌。

澜起科技:首次回购50万股A股股份,回购金额约1.03亿元

澜起科技公告,2026年7月29日,公司通过集中竞价交易方式首次回购A股股份50万股,已回购股份占公司总股本的比例为0.04%,购买的最高价为210.00元/股、最低价为192.18元/股,支付的金额总额约为人民币10276.49万元(不含佣金、过户费等交易费用)。

伊朗谴责美国沙特袭击伊拉克

据CCTV国际时讯,伊朗外交部今天(7月29日)发表声明,强烈谴责美国和沙特对伊拉克部分地区发动袭击。声明称,这些袭击侵犯伊拉克国家主权和领土完整,违反《联合国宪章》和国际法,目的是“服务于美国和以色列政权扩大西亚地区战争和冲突范围的图谋”。声明还称,袭击造成多名伊拉克民众死亡,伊朗对此表示哀悼,并重申对伊拉克政府和人民的支持。声明同时表示,美国及其地区盟友应对“这些罪恶、不人道和挑衅行为”所造成的后果承担责任。

知情人士:霍尔木兹海峡仍然完全封闭

7月29日,据伊朗媒体Fars News,一位军事知情人士表示,霍尔木兹海峡仍然完全封闭,任何船只都没有权利通过这一战略水道。任何试图通过的船只,特别是那些不理会警告的船只,将会面临果断和迅速的反应。

伊媒称美空袭伊朗与伊拉克边境地区

7月29日,据伊朗国家电视台,当地时间7月29日下午,伊朗西阿塞拜疆省皮兰沙赫尔市边境地带遭到美国空袭。

匈牙利议会投票决定取消该国关于加密货币交易验证的要求

7月29日,据The Block报道,匈牙利财政部长安德拉斯·卡尔曼(Andras Karman)表示,匈牙利议会投票决定取消该国关于加密货币交易验证的要求。这项废除措施属于一项更广泛税收方案的一部分,它取消了在进行特定加密货币兑换之前必须验证钱包所有权、资产来源及客户数据的义务。

卡布里贷款与OpenAI展开合作 将企业级AI应用于借贷业务运营

7月29日,卡布里环球资本有限公司旗下卡布里贷款与OpenAI展开合作,将企业级人工智能应用于借贷业务运营。