首页文章详情

不打榜的美国开源新王Inkling:975B原生多模态、仅用 1/3 Token 追平英伟达

AI前线2026-07-16 17:11
专为企业二次微调打造

时至今日,全球大模型格局已成定数,还有必要耗费巨资从零开始训练一个新模型吗?

由 OpenAI 前 CTO Mira Murati 、华人研究员翁荔(前 OpenAI 应用研究 VP)联合创立的 Thinking Machines Lab(TML)今天给出了答案。

北京时间 7 月 16 日凌晨,这家公司带来首款自研通用基础模型 Inkling,采用混合专家 MoE 专家架构,总参数量为 9750 亿、激活参数 410 亿,采用 Apache 2.0 协议完整开放推理权重,包含 BF16 及 NVFP4  量化版本。

Hugging Face 开源地址:https://thinkingmachines.ai/news/introducing-inkling

Thinking Machines Lab 创立于 2025 年 2 月,成立 5 个月后便完成 20 亿美元种子轮融资,估值 120 亿美元,创下 AI 行业种子轮纪录。可以说,Inkling 完全有资本在榜单上大做文章,但 TML 却以业内少有的坦诚姿态,主动放弃了 SOTA 叙事。

官方博客中他们直言,"Inkling 并非当今最强的模型,开源闭源都不是"。在他们看来,开源模型的首要价值并不在于性能的摸高,而是需要:

在能力、推理成本、原生多模态和可微调性之间找到一个平衡成为企业可以用自己数据持续改造的模型底座

而 TML 之所以对"开源模型市场"有如此深刻的感悟,还在于他们已经基于旗下的大模型微调算力服务平台 Tinker 在 ToB 一线摸爬了近一年,这套经验投射到 Inkling 身上,就体现为一个适合企业二次微调的模型应重点关注的三件事:

Token 经济性、深度可定制闭环与原生多模态。

六边形战士登顶美国开源阵列 

Inkling 采用混合专家 MoE 架构,总参数 975B,单次推理激活 41B,上下文窗口最高 100 万 token,预训练数据量为 45 万亿 token,涵盖文本、图像、音频与视频。

图注:Inkling(预感、暗示),其形象设计看起来像是一滩可以随意变幻形状的墨汁。

单看体量,9750 亿参数 已跻身全球规模最大的开源模型阵列(高于智谱 GLM-5.2 的 7530 亿 参数,低于 Kimi-K2 的 1T 参数)。

但由于借鉴了 DeepSeek V3 的 MoE 架构设计(“largely follows DeepSeek-V3”),Inkling 在单次推理中仅调用一小部分专家,实际运行成本与延迟得以控制。这也是当前大模型的通用路线,DeepSeek、Kimi、GLM 均采用类似设计。

值得期待的是,同期还有更轻量的预览版 Inkling-Small,总参 276B、激活 12B,权重将在测试完成后开放。

在综合通用性评测方面,第三方机构 Artificial Analysis 结果显示:Inkling 以 41 分的综合得分,超越了英伟达 Nemotron 3 Ultra、谷歌 Gemma 4 31B 以及前东家 OpenAI 的 GPT-OSS-120B,登顶美国开源模型

这种能力广度对于模型定制和实际应用十分重要。不追求单一维度的极限(如纯逻辑推理),而是覆盖智能体编排、编程、指令遵循、多模态理解等广泛的任务谱系。 因为企业实际的工作流是复杂且交错的,底座模型必须是个“通才”,才能支撑后续的专精微调。

在智能体编排与工具调用层面,为解决模型在特定的测试框架下表现极佳,但一换环境就“水土不服”的鲁棒性,TML 在训练时刻意打乱了工具集和工具定义,迫使模型去理解工具调用的底层逻辑,而非死记硬背特定框架的 API。

在实际案例中,Inkling 能够通过“一次生成”(One-shot)直接构建出一个可正常运行的 Web 应用,并内嵌一个 AI 助手,允许用户通过自然语言直接操控界面。这种从“生成代码”到“构建可交互系统”的跨越,正是企业自动化工作流中最稀缺的能力。

在网页开发测试与多页面构建上,长程一致性是 Inkling 的另一大亮点。在匿名人类评审盲测 Design Arena 中,Inkling 拿下 1257 分,追平了闭源旗舰 Claude Opus 4.6,超越 Gemini 3.5 Flash 和 Kimi K2.6,在全球开放权重模型中仅次于智谱 GLM 5.2。

大语言模型在长文本生成中常出现“风格漂移”或“指令遗忘”,但 Inkling 能够在生成多页面应用时,准确维持跨页面的视觉风格连贯性与信息可靠性。这也侧面印证了其 100 万 token 上下文窗口并非纸面参数,而是具备真实的工程落地支撑。

客观而言,尽管 Inkling 已经登顶美国开源阵营,但在 HLE、极限代码代理等“硬核推理”榜单上,与国内的 GLM 5.2、Kimi K2.6 仍有差距。但 TML 显然并不在意。

为了证明这种“广度优先”的策略对微调有多大帮助,TML 甚至做了一个极其大胆的实验:让 Inkling 参与自身的微调过程。

在这个演示中,模型通过 Tinker 平台自己编写微调任务、运行训练流程并评估结果。这说明,Inkling 是一款可塑性极高的模型底座,甚至可以充当塑造自身和其他模型的基础设施。

1/3 Token 成本追平 Nemotron 3 Ultra 

如果说“六边形战士”的能力广度是 Inkling 登顶美国开源阵列的入场券,那么它真正在 ToB 市场建立护城河的,是其对“部署成本”和“可塑性”的极端追求。

在 Terminal Bench 2.1(智能体编程基准)上,Inkling 达到英伟达 Nemotron 3 Ultra 相同性能水平时,平均生成 Token 数量只有后者的大约三分之一。

图注:随着推理强度从 0.2 提高至 0.99,Inkling 可以在任务表现与生成 Token 之间选择不同工作点

从测试结果中可以看到,Nemotron 3 Ultra 在该测试中的成绩为 56.4%,Inkling 在最高推理强度下可以达到 63.8%。当 TML 调低 Inkling 的推理强度,使其成绩落在 Nemotron 相同水平时,所需 Token 约为对方三分之一。

也就是说,Inkling 用一条更短的推理路径,抵达了相同的任务成功率。对于需要将模型嵌入长流程工作流、每天跑数百万次调用的企业来说,这不仅意味着 API 费用锐减,更直接决定了用户感知到的响应延迟。

值得研究的是,Inkling 的 token 经济性,并非基于后置接口硬性截断思维链来实现,而是通过强化学习“长”在模型基因里的

图注:Inkling 在超过 3000 万次强化学习 Rollout 中保持稳定训练,推理评测成绩持续提升

在后训练阶段,TML 投入海量算力进行大规模异步强化学习,rollout 次数超过 3000 万次。团队没有盲目追求推理深度的最大化,而是引入了一个精巧的机制:通过修改系统消息,并为不同任务设置不同的每 Token 成本,让模型有时可以充分展开推理,有时则必须控制计算预算。

经过反复训练,Inkling 逐渐学会在不同任务中看碟下菜:什么问题值得继续深挖,什么任务已经可以停止,以及增加一段推理能否带来足够的性能收益。

这意味着,开发者调整的不再是一个简单的输出长度上限,而是模型在强化学习中已经习得的不同思考档位(可通过 output_config.effort 设置 0 至 1 之间的推理强度;数值越高,通常会促使 Inkling 投入更多推理,但不保证每次都更长或更准确)。

更有意思的是,随着强化学习推进,Inkling 的思维链还出现了自发压缩现象

早期模型会使用相对完整的语法,不断复述条件和推理意图;训练后期,它开始省略部分冠词、连接词和重复表达,推理过程逐渐变成一种接近速记的语言。TML 并没有专门奖励这种文风,单纯的 Token 成本压力,就促使模型寻找更短的推理路径

图注:同一道问题在强化学习前后的思维链对比,后期推理省略了更多语法性表达。Cognition 团队在训练 SWE-1.7 时,也曾观察到类似变化。

这意味着 Inkling 拥有了一种“内生”的推理强度控制能力,它并非一个永远“少想偷懒”的模型,而是一条可以调节的性能成本曲线

简单任务不必为最高推理强度付费,复杂任务仍然可以增加计算预算。对于企业而言,这比一个只能以固定档位运行的高分模型更容易部署,也更容易针对不同工作流进行成本控制

一个懂得自我节流的模型,在微调时也往往能更高效地吸收新知识。

补齐大小模型协同的后训练闭环 

为了让这种可塑性真正落地,TML 并没有止步于“开放权重”,而是补齐了全链路的工具栈。他们不仅在 Tinker 平台原生集成了 Inkling 的微调支持,更新了 Cookbook 和三套音频定制示例,更关键的推出了 tml-renderer 渲染器。

在大模型实际落地中,当推理过程夹杂了工具调用、多模态输入时,数据采样和后训练往往极其脆弱。tml-renderers承担的正是这层转换工作,它可将聊天消息、工具调用、图像和音频统一渲染成 Inkling 所需的输入格式,并使用同一套规则处理推理采样与监督微调数据,以提供稳定可靠的采样与后处理支持。

你会发现,这是真正懂工程痛点才会做的基建。前文中 Inkling 展示的“模型微调自己”的实验,就是这套链路的运转机制。

与 Inkling 同时预览的 Inkling-Small,还为这套后训练体系补上了另一套成本档位

图注:Inkling-Small 以不足三成的激活参数保留了多项能力,但在复杂 Agent 和事实准确性上仍存在明显折损

Inkling-Small 拥有 2760 亿总参数、120 亿激活参数,激活规模不足 Inkling 的三成。由于使用了改进后的预训练数据与训练配方,它在 HLE 工具版、GPQA Diamond、IFBench 及部分视觉测试中持平甚至反超大版本,SWE-bench Verified 也仅相差 0.2 个百分点。两款模型共享同一套可扩展后训练技术栈。

它并非 Inkling 的全面低价替代品。在复杂终端编程、银行 Agent 与事实准确性等任务中,小模型仍有较明显的性能下降。

但官方对它的应用定位非常具体:编程、为其他模型评测打分,以及为其他模型生成合成数据。这几类工作通常需要高频、批量地调用模型,对单次能力上限的要求未必最高,却高度敏感于成本和延迟。

从原生多模态到全栈部署 

Token 效率缓解的是企业落地中的成本与延迟问题,原生多模态和开放生态,则进一步回答了另外两个问题:人要怎样参与模型工作,以及谁有权决定模型最终变成什么样

Inkling 的另一大亮点在于原生多模态,即文本、图像和音频从预训练阶段便进入同一模型联合学习。这与当前 GLM、DeepSeek 等主流开源模型不同,后者多采用“后期外挂”视觉或音频编码器的路线,以求快速获取跨模态能力。

图注:Inkling 将音频、图像转换为轻量表示,并与文本 Token 统一处理

这套能力并非单纯为了增加输入格式。TML 将 Inkling 定位为交互模型系统中的后台推理模型:前台模型持续接收用户的语音、画面和文字,维持实时交流;遇到深度推理、搜索和工具调用,再将任务及共享上下文交给 Inkling 异步处理。换言之,原生多模态是 Inkling 承接复杂交互上下文的能力基础,“双模型异步协作”则是这项能力的应用场景

图注:TML 将实时交互与后台推理分开,用户持续参与对话,复杂任务则由后台模型异步完成

具体来看,Inkling 能够转写语音、理解口头指令和分析长音频,也能处理图表、示意图与数学视觉问题。面对复杂图片,它还可以调用 Python 进行放大、裁剪,将视觉理解与代码推理结合。在 CharXiv 视觉推理测试中,加入 Python 工具后,其成绩由 78.1%提高至 82.0%。不过,Inkling 当前仍只支持文本输出,尚不能直接生成语音或图像

进入生产环境还意味着模型不能在安全问题上失控,也不能因为过度防御而频繁误拒。在 FORTRESS 测试中,Inkling 对对抗性有害请求的拒绝率为 78%,同时对无害相似请求保持 95.9%的正常响应率,在 TML 比较的开放权重模型中取得了相对均衡的表现。

在交付方式上,TML 也没有将 Inkling 绑定在单一 API 中。

原始权重与面向 Blackwell 优化的 NVFP4 版本均已开放;开发者既可通过 Together AI、Fireworks、Modal 等平台调用,也可借助 SGLang、vLLM、llama.cpp 和 Transformers 自行部署。可以说,Inkling 同时覆盖了托管 API 与自主部署两条主流路径。

原生多模态让 Inkling 能够进入更复杂的人机交互,全权重开放和推理框架适配则让它进入企业自己的技术栈。

结语:为什么还要从零训练一款模型 

对于 TML 而言,一方面需要 证明自己不只有明星光环和融资故事,也真正具备从预训练到强化学习,完整训练一款近万亿参数模型的科研与工程能力。

但更重要的是 TML 的商业模式,要借开放权重与此前布局的 Tinker 微调平台,卡位企业级定制化 AI 基础设施市场。

一个面向企业的模型服务平台,不能永远只负责连接和供给第三方模型。它还需要知道:完成任务需要多少 Token?推理强度能否按需调节?模型能否原生理解语音、图像与文本?企业是否能够用自己的数据持续微调,并将其无缝部署进技术栈?

而这些能力,只有把预训练、强化学习、推理和微调的完整链路握在自己手里,才能真正打通。

所以,这个问题的本质是:一家想要卡位 B 端市场的 MaaS 服务平台,为什么最终必须拥有自研的核心模型?

本文来自微信公众号 “AI前线”(ID:ai-front),作者:四月,36氪经授权发布。