前途科技前途科技
  • 服务
  • 关于
  • AI
    • AI 大模型
    • 具身智能
    • 算力芯片
  • 科技
    • 智能终端
    • 软件·互联网
    • 汽车·出行
    • 科学前沿
  • 资源中心
    • 深度研究
      • AI 前沿
      • 教程
      • AI 知识库
      • 案例研究
    • 行业报告
      • 白皮书
      • 行业报告
      • 研究报告
      • 技术分享
      • 专题报告
    • 精选案例
      • 金融行业
      • 医疗行业
      • 教育行业
      • 零售行业
      • 制造行业
  • 服务
  • 关于
联系我们
AI 大模型/11.21 · 12:00/3 MIN/2 阅读

Thinking Machines 发布笔记本可跑的 Inkling 2 Mini

Thinking Machines Lab 发布开放权重模型 Inkling 2 Mini,总参数 264 亿、激活 34 亿,靠循环中间层提升推理能力,约 20GB 可在笔记本运行,但官方提醒智能体任务需放进沙箱。

Thinking Machines Lab 于 11 月 20 日发布 Inkling 2 Mini。这是一款开放权重模型,公司称它「小到可以在笔记本上运行」。其推理能力来自对网络部分层的重复执行:每生成一个 token,中间层会多跑几遍。此前该实验室已发布 Inkling 2 Small,并在 X 上调侃「有些人觉得」那款模型「594B 参数太大了」。

Inkling 2 Mini 是混合专家(MoE)模型,总参数 264 亿,激活参数 34 亿。计入循环后,每 token 的权重激活量为 54 亿。其大部分权重以 NVFP4 训练并原生部署,整体占用约 20GB。模型采用 Apache 2.0 许可,接受文本与图像输入,上下文窗口最高 100 万 token。

Inkling 2 Mini 模型发布示意图

中间层循环

模型共 24 层,中间 12 层每 token 运行三次,首尾各六层只运行一次。由此以 24 个物理层构成 48 个逻辑层。公司称循环让模型「用更少的 token 得到正确答案」,在智能体任务中尤其明显。

据该实验室数据,Inkling 2 Mini 在 DeepSWE v1.1 上得分 48.2%,在 Vals Index v2.2 上得分 46.5%,在 1000 亿参数以下的开放权重模型中均居首。Artificial Analysis 的 Intelligence Index 给出 20 分,与 Qwen3.8 27B 持平,而激活参数约为后者的五分之一。公司还称,每个任务的成本约为后者的六分之一,速度约为四倍。

循环也带来 AI 监管层面的疑问:模型可以在内部完成推理而不写下步骤。实验室表示,在这一规模下,思维链推理「变短了,但仍可读」。公司同时发布一款可变循环研究模型,供外部研究者测试。Unite.AI 指出,公司将这些可监控性发现描述为阶段性结果。

获取方式与短板

权重已上线 Hugging Face,模型也可在 Tinker 上做推理与微调。首日推理支持包括 SGLang、vLLM、Ollama 和 NVIDIA Dynamo 等工具。通过 Ollama,它可在内存至少 32GB 的 Mac 上运行。vLLM 表示,主模型及其可变循环检查点均支持 NVIDIA Blackwell、Hopper 与 DGX Spark。

公司也坦承模型的弱点:MultiChallenge 得分 50.0%,ComplexConstraints v1.1 得分 33.4%,在多轮对话和多重约束指令上均落后于 Qwen3.8-27B。模型卡还警告,模型「可能在未经确认的情况下执行破坏性操作,例如删除或覆盖文件」,建议用户「在沙箱中运行智能体工作负载」。

标签:Inkling 2 Mini开放权重模型AI 智能体

想了解 AI 如何助力您的企业?

免费获取企业 AI 成熟度诊断报告,发现转型机会

置顶文章

自己动手做模型:ML Intern 低成本定制小模型实战
置顶

自己动手做模型:ML Intern 低成本定制小模型实战

微软和Meta收紧Claude:被削掉的是入口,不是模型
置顶

微软和Meta收紧Claude:被削掉的是入口,不是模型

前途科技前途科技
服务关于快讯技术商业报告
微信咨询二维码

咨询微信

扫码添加微信咨询

前途科技微信公众号

微信公众号

扫码关注

Copyright © 2026 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。|京ICP备17045010号-1|京公网安备 11010502033860号|隐私政策|服务条款
谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费
置顶

谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费

//

24小时热榜

刚刚,微软官方公开了科研研究Skill
TOP1

刚刚,微软官方公开了科研研究Skill

AI 助攻纳维-斯托克斯无外力爆破
TOP2

AI 助攻纳维-斯托克斯无外力爆破

3

OpenAI 详解 Codex 沙箱安全机制

13小时前
OpenAI 详解 Codex 沙箱安全机制
4

Google 2027年停用 Nest 应用与助手

8小时前
Google 2027年停用 Nest 应用与助手
5

Thinking Machines 发布笔记本可跑的 Inkling 2 Mini

8小时前
Thinking Machines 发布笔记本可跑的 Inkling 2 Mini
6

FBI 调查犯罪信息数据库遭入侵

8小时前
FBI 调查犯罪信息数据库遭入侵
7

128GB 内存、1 PFLOPS:3.3 万起的 RTX Spark,到底值不值?

11小时前
128GB 内存、1 PFLOPS:3.3 万起的 RTX Spark,到底值不值?
8

基于 LLM Wiki、OKF 与 Git 的Agent知识库:淘宝直播互动团队的AI Coding实践

11小时前
基于 LLM Wiki、OKF 与 Git 的Agent知识库:淘宝直播互动团队的AI Coding实践
热门标签
大模型AgentRAG微调私有化部署Prompt EngineeringChatGPTClaudeDeepSeek智能客服知识管理内容生成代码辅助数据分析金融零售制造医疗教育AI 战略数字化转型ROI 分析OpenAIAnthropicGoogle

关注公众号

前途科技微信公众号

扫码关注,获取最新 AI 资讯

免费获取 AI 落地指南

3 步完成企业诊断,获取专属转型建议

已有 200+ 企业完成诊断