前途科技前途科技
  • 服务
  • 关于
  • AI
    • AI 大模型
    • 具身智能
    • 算力芯片
  • 科技
    • 智能终端
    • 软件·互联网
    • 汽车·出行
    • 科学前沿
  • 资源中心
    • 深度研究
      • AI 前沿
      • 教程
      • AI 知识库
      • 案例研究
    • 行业报告
      • 白皮书
      • 行业报告
      • 研究报告
      • 技术分享
      • 专题报告
    • 精选案例
      • 金融行业
      • 医疗行业
      • 教育行业
      • 零售行业
      • 制造行业
  • 服务
  • 关于
联系我们
AI 大模型/11.02 · 00:00/4 MIN/作者:苏晚/1 阅读

Memdoor 复现:5 个 Qwen 小模型组队追平 harness

一个名为 Memdoor 的工作流,用 5 个 Qwen3.8-27B 小模型分工协作、只通过磁盘文件通信,在 LiveCodeBench Hard 前十题的五次评测里拿到 98 分,追平原论文作者 harness 的 96 分,单次运行中位数 40 分钟、0.39 美元。

一个开源项目 Memdoor 公布了一份可复现的实验:让 5 个 Qwen3.8-27B 小模型组成一支团队去解编程题,在 LiveCodeBench Hard 的前十道题上,五次评测拿到 98 分,追平了原论文作者自己 harness 的 96 分,也明显高于 Fable 5 单次作答的 80 分。整套流程没有写一行业务代码,只由八个 YAML 文件描述,而且不指定具体模型。

五个角色,只靠文件通信

这支团队由五类角色构成:一个规划者(planner)、两个出点子的 ideator、一个求解者(solver)、一个管理者(manager),再加一个负责修复的 repair worker。它们各自从一个全新的上下文(fresh context)启动,彼此之间不靠对话记忆,只通过磁盘上的文件交换信息——每个代理的提示词里都写着同一句话:"fresh context, read the files, do not rely on chat"(全新上下文,读文件,别依赖聊天记录)。原论文把成绩的提升归功于这种"账本式"的纪律。

流程本身是一张有向无环图:规划之后分叉出两条出点子的支线,汇合到求解,再依次经过测试、复审、修复、验证。每一步是一个 YAML 文件,步骤之间的 requires 字段构成依赖关系。角色的"身份"不过是那段提示词,步骤里不写死任何模型名,用一个开关来指定用哪个模型回答,其中也可以挂一个本地模型。

这份数据的边界

作者对这份数据能说明什么、不能说明什么写得很克制:样本只有十题、五遍,而原本是跑满 100 题的,9.8 和 9.6 的差距在噪声范围内,结论只是"与作者 harness 打平",不是超越。竞赛题出自 2025 年春天,模型有可能在训练中见过,污染未被排除;Fable 5 的那一列是取自作者文件、并未在这套 harness 里重新跑。单次运行的中位数是 40 分钟、0.39 美元,50 次全部运行记录连同请求、回复、评分器输出都保留在仓库里。

其中还有一道"丢掉的题"被原样留着:管理者编造了一个错误的反例,导致团队把一份本来正确的程序重写坏了。作者把这当成原循环的缺口留下,没有修补。

对国内团队的意义

这套方案用的是 Qwen 系列这样的国产模型,而不是绑定某一家闭源大模型;工作流也能跑在本地堆栈上,意味着数据不必出本机。它展示的不是"换个更强的模型",而是用流程纪律——每步新鲜上下文、只经文件通信、把中间产物都落盘——去逼出一组小模型的协作上限。实验直接可复现,逐字节的记录和结果页都已公开。

标签:MemdoorQwenLiveCodeBench多智能体AI 编程Fable
苏晚
苏晚Su Wan

前途科技 · 前沿主笔

关注 AI 与前沿科技的观察者,前途科技前沿内容主笔。

查看全部文章

想了解 AI 如何助力您的企业?

免费获取企业 AI 成熟度诊断报告,发现转型机会

置顶文章

自己动手做模型:ML Intern 低成本定制小模型实战
置顶

自己动手做模型:ML Intern 低成本定制小模型实战

谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费
置顶

谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费

前途科技前途科技
服务关于快讯技术商业报告
微信咨询二维码

咨询微信

扫码添加微信咨询

前途科技微信公众号

微信公众号

扫码关注

Copyright © 2026 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。|京ICP备17045010号-1|京公网安备 11010502033860号|隐私政策|服务条款
微软和Meta收紧Claude:被削掉的是入口,不是模型
置顶

微软和Meta收紧Claude:被削掉的是入口,不是模型

//

24小时热榜

DeepSeek开源Super Agent原型:主动干活且懂得克制
TOP1

DeepSeek开源Super Agent原型:主动干活且懂得克制

XHEART发布大模型芯片X7 Ultra,以专用架构破局L4量产
TOP2

XHEART发布大模型芯片X7 Ultra,以专用架构破局L4量产

3

修补“漏水船”:腾讯AI转向企业级B端战场

16小时前
修补“漏水船”:腾讯AI转向企业级B端战场
4

四大AI巨头统一robots.txt训练退出标准

20小时前
四大AI巨头统一robots.txt训练退出标准
5

人形机器人第一份公账:Agility上市背后的算盘与隐忧

21小时前
人形机器人第一份公账:Agility上市背后的算盘与隐忧
6

具身智能资本转向:电子皮肤与触觉传感逆势吸金

21小时前
具身智能资本转向:电子皮肤与触觉传感逆势吸金
7

跟AI谈恋爱,年轻人图什么?

22小时前
跟AI谈恋爱,年轻人图什么?
8

吉利出海提速:11个月在英国突破月销5000辆

18小时前
吉利出海提速:11个月在英国突破月销5000辆
热门标签
大模型AgentRAG微调私有化部署Prompt EngineeringChatGPTClaudeDeepSeek智能客服知识管理内容生成代码辅助数据分析金融零售制造医疗教育AI 战略数字化转型ROI 分析OpenAIAnthropicGoogle

关注公众号

前途科技微信公众号

扫码关注,获取最新 AI 资讯

免费获取 AI 落地指南

3 步完成企业诊断,获取专属转型建议

已有 200+ 企业完成诊断