Thinking Machines Lab 发布开放权重模型 Inkling 2 Mini,总参数 264 亿、激活 34 亿,靠循环中间层提升推理能力,约 20GB 可在笔记本运行,但官方提醒智能体任务需放进沙箱。
Thinking Machines Lab 于 11 月 20 日发布 Inkling 2 Mini。这是一款开放权重模型,公司称它「小到可以在笔记本上运行」。其推理能力来自对网络部分层的重复执行:每生成一个 token,中间层会多跑几遍。此前该实验室已发布 Inkling 2 Small,并在 X 上调侃「有些人觉得」那款模型「594B 参数太大了」。
Inkling 2 Mini 是混合专家(MoE)模型,总参数 264 亿,激活参数 34 亿。计入循环后,每 token 的权重激活量为 54 亿。其大部分权重以 NVFP4 训练并原生部署,整体占用约 20GB。模型采用 Apache 2.0 许可,接受文本与图像输入,上下文窗口最高 100 万 token。

模型共 24 层,中间 12 层每 token 运行三次,首尾各六层只运行一次。由此以 24 个物理层构成 48 个逻辑层。公司称循环让模型「用更少的 token 得到正确答案」,在智能体任务中尤其明显。
据该实验室数据,Inkling 2 Mini 在 DeepSWE v1.1 上得分 48.2%,在 Vals Index v2.2 上得分 46.5%,在 1000 亿参数以下的开放权重模型中均居首。Artificial Analysis 的 Intelligence Index 给出 20 分,与 Qwen3.8 27B 持平,而激活参数约为后者的五分之一。公司还称,每个任务的成本约为后者的六分之一,速度约为四倍。
循环也带来 AI 监管层面的疑问:模型可以在内部完成推理而不写下步骤。实验室表示,在这一规模下,思维链推理「变短了,但仍可读」。公司同时发布一款可变循环研究模型,供外部研究者测试。Unite.AI 指出,公司将这些可监控性发现描述为阶段性结果。
权重已上线 Hugging Face,模型也可在 Tinker 上做推理与微调。首日推理支持包括 SGLang、vLLM、Ollama 和 NVIDIA Dynamo 等工具。通过 Ollama,它可在内存至少 32GB 的 Mac 上运行。vLLM 表示,主模型及其可变循环检查点均支持 NVIDIA Blackwell、Hopper 与 DGX Spark。
公司也坦承模型的弱点:MultiChallenge 得分 50.0%,ComplexConstraints v1.1 得分 33.4%,在多轮对话和多重约束指令上均落后于 Qwen3.8-27B。模型卡还警告,模型「可能在未经确认的情况下执行破坏性操作,例如删除或覆盖文件」,建议用户「在沙箱中运行智能体工作负载」。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断